غولی به نام هوش مصنوعی...

به گزارش خانه هوش مصنوعی؛ دولت باراک اوباما، رییس‌جمهور آمریکا، طی گزارشی مشکلات کوچ کردن دنیا سمت به استفاده از هوش مصنوعی را بررسی کرده و نگرانی خود از تسلط روزافزون این پدیده را ابراز کرد. در گزارش دولت اوباما آمده است:

“با وجود گسترش خدمات مبتنی بر داده و وابستگی هر چه بیشتر ما به این خدمات، باید به مشکلات و تأثیراتی که ممکن است، در صورت وارد شدن یک داده اشتباه و یا استفاده از یک الگوریتم نادرست در یک سامانه هوش مصنوعی رخ دهد نیز توجه داشت.”

وجود یک الگوریتم نادرست و یا داده اشتباه، می‌تواند به راحتی بر تصمیم‌گیری‌های هوش مصنوعی تأثیر بگذارد و این مسأله در پروژه‌های بزرگ، فجایع جبران‌ناپذیری به بار خواهد آورد.

مسئولان کاخ سفید ادعا می‌کنند، به دنبال تعریف یک چارچوب اخلاقی محکم برای نظارت بر طراحی هوش مصنوعی هستند؛ هوش مصنوعی‌ای که بدون نیاز به دخالت یک عامل انسانی فعالیت می‌کند.

همچنین، گزارش موردنظر مشکلات عدم حضور یک عامل انسانی برای نظارت بر اقدامات هوش مصنوعی را نیز بررسی کرده است.

.............

پ. ن. ۱: 

واقعا راست میگن باید یه تضمینی برا استفاده از این متدها و الگوریتم های هوشمند وجود داشته باشه...من الان خودم دارم تو حوزه پردازش تصاویر پزشکی کار میکنم چقد سیستم های تشخیص بیماری زیاد طراحی شدن که قراره روزی جایگزین پزشک بشن هرچند شدنی نیست.من یه مدت دنبال طراحی یه سیستم تشخیص بیماری بودم و با پزشکایی در این زمینه صحبت کردم .قرار بود سیستم ما برای جاهایی ک به پزشک متخصص دسترسی ندارن استفاده شه،درسته باید یه پزشک عمومی برای کار با این سیستم باشه اما میشد مواقعی که یه تصویر مثلا ام آر آی یه بیمار تومور مغزی رو بهش میدادیم اما از شانس اشتباه تشخیص بده...این بودن خطا برای تمام سیستم های هوشمند هست و کل رقابت الان دانشمندان و محققان این حوزه کاهش این خطا و رسیدن به دقت و کارایی بالاتره.اما بخوای تصور کنی حتی یه درصد ناچیز اشتباه وجود داشته باشه تو همین حوزه پزشکی ببین چه هزینه هایی رو در بر خواهد داشت.

حالا تصور کنید بخوان تو‌حوزه ی امنیت و نظامی  ازش استفاده کنه مثل شناسایی خودکار هدف و...

 واقعا باید در موردش  تصمیم‌جدی گرفت....

در کنار دقت اون باید درنظر گرفت چه هزینه هایی در قبال خطای اون به وجود میاد...چه بسا در نظر گرفتن هزینه همواره مهم بوده و خواهد بود.