پژوهشگران سامانه‌ای ساخته‌اند که با بررسی امواج مغزی انسان می‌تواند تشخیص دهد هوش مصنوعی هدف کاربر را اشتباه فهمیده یا روش نادرستی برای رسیدن به هدف انتخاب کرده است.
همشهری آنلاین، فرخنده رفائی: یکی از مشکلات هوش مصنوعی این است که گاهی دستور کاربر را درست دریافت می‌کند اما نتیجه‌ای متفاوت از انتظار او ارائه می‌دهد. حالا پژوهشگران راهی پیدا کرده‌اند تا هوش مصنوعی برای فهمیدن این اشتباه فقط به کلمات و رفتار انسان تکیه نکند و از خود مغز او نیز بازخورد بگیرد؛ روشی که می‌تواند شیوه همکاری انسان و ماشین را تغییر دهد.
به گزارش نیواطلس، پژوهشگران مؤسسه علم و فناوری کره جنوبی (KAIST) با همکاری تحقیقات مایکروسافت آسیا، روشی به نام هم‌راستاسازی عصبی ارزش‌ها (NVA) توسعه داده‌اند که با استفاده از نوار مغزی (EEG) واکنش‌های مغز انسان به عملکرد هوش مصنوعی را شناسایی می‌کند.
ایده اصلی این فناوری بر یک مشکل ساده اما مهم استوار است: یک رفتار لزوما نشان نمی‌دهد انسان چه هدفی دارد. برای مثال، اگر فردی یک لیوان را بردارد، ممکن است قصد نوشیدن آب، شستن لیوان، جابه‌جا کردن آن یا دادن لیوان به فرد دیگری را داشته باشد. از طرف دیگر، برای رسیدن به یک هدف واحد نیز می‌توان از چند روش متفاوت استفاده کرد.
پژوهشگران برای حل این ابهام از دو نوع واکنش عصبی استفاده کردند. «خطای پیش‌بینی پاداش» زمانی ایجاد می‌شود که نتیجه نهایی با هدف مورد انتظار فرد تفاوت داشته باشد. برای مثال، اگر فرد از ربات بخواهد نوشیدنی بیاورد اما ربات به‌جای آب قهوه بیاورد، هدف اشتباه تشخیص داده شده است.
نوع دوم «خطای پیش‌بینی وضعیت» است که زمانی رخ می‌دهد که هدف درست باشد اما روش رسیدن به آن با انتظار فرد تفاوت داشته باشد. مثلا فرد آب می‌خواهد و ربات نیز آب می‌آورد، اما به‌جای برداشتن بطری کنار دست او، به آشپزخانه می‌رود و از شیر آب لیوان را پر می‌کند. در این حالت نتیجه درست است اما مسیر انتخاب‌شده متفاوت بوده است.
پژوهشگران با استفاده از یادگیری عمیق، الگوهای امواج مغزی مربوط به این دو نوع خطا را شناسایی کردند. سامانه سپس می‌تواند تشخیص دهد مشکل در «هدف» بوده یا در «روش انجام کار» و این اطلاعات را به‌عنوان بازخورد در اختیار هوش مصنوعی قرار دهد تا تصمیم خود را اصلاح کند.
این فناوری در آینده می‌تواند برای ربات‌های خانگی، ربات‌های صنعتی، خودروهای خودران و حتی تجهیزات پزشکی و توان‌بخشی کاربرد داشته باشد. برای مثال، ربات خانگی می‌تواند متوجه شود کاربر از نتیجه کار راضی نیست و بدون اینکه منتظر توضیح شفاهی او بماند، مسیر خود را تغییر دهد.
با این حال، این فناوری هنوز با استفاده روزمره فاصله دارد. آزمایش‌های انجام‌شده در محیط شبیه‌سازی صورت گرفته‌اند و هنوز رباتی در شرایط واقعی خانه به‌طور مداوم امواج مغزی فرد را دریافت و بر اساس آن رفتار خود را اصلاح نکرده است. همچنین استفاده از EEG به الکترودهایی نیاز دارد که سیگنال‌های الکتریکی بسیار ضعیف مغز را ثبت می‌کنند و دریافت این سیگنال‌ها در محیط‌های واقعی و هنگام حرکت فرد می‌تواند دشوارتر باشد.
کد خبر 1074354 منبع: همشهری آنلاین
-
قهرمانی‌های دنباله دار دانش‌آموزان رباتیک ایرانی
-
خودروهای آینده فقط حرکت نمی‌کنند | می‌بینند، یاد می‌گیرند و تصمیم می‌گیرند | هوش مصنوعی دارد فرمان خودرو را از انسان می‌گیرد
-
نخستین ربات انسان‌نمای کاملا متن‌باز جهان رونمایی شد
-
آلتمن: باید بعضی پیامدهای منفی هوش مصنوعی را پذیرفت
-
نوبل فیزیک برای پیام‌های شبح‌وار از فضا
-
آلمان نخستین ماهواره رصد تهدیدات هوایی را به فضا فرستاد
-
۶۰ همت تسهیلات برای بازسازی دانش‌بنیان‌های آسیب‌دیده از جنگ
-
+16 | برخورد داعش‌گونه‌ی مزدوران عربستانی با زخمی‌های یمنی + فیلم
-
کارنامه تحصیلی و نمره‌های احمدشاه قاجار را ببینید + عکس
-
قطعا خواهان فروپاشی حکومت هستیم + ویدئو | چندین گروه در ایران خواهان مسلح شدن هستند
-
پاسخ مهم به پرسپولیس؛ دربی و تمام بازی‌های استقلال ۳بر صفر می‌شود؟ | آسانی باعث محرومیت جدید آبی‌ها
-
ساعت ۵ میلیاردی آقای سفیر روی مچ سرایدار سارق! + ویدئو
-
فوری؛ فرمان آماده‌باش ارتش صادر شد | جنگ لفظی بالا گرفت؛ پاسخ آتشین مصری‌ها به تهدید اسرائیل | اسرائیل نخواهد ماند
-
فوری؛ بالگرد نظامی آمریکا با شلیک موشک سقوط کرد + تصاویر و جزئیات
-
فوری؛ بالگرد نظامی آمریکا با شلیک موشک سقوط کرد + تصاویر و جزئیات
-
فوری؛ شنیده‌شدن صدای انفجارهای مهیب در پایتخت عربستان؛ پروازها تعلیق شد
-
فوری؛ فرمان آماده‌باش ارتش صادر شد | جنگ لفظی بالا گرفت؛ پاسخ آتشین مصری‌ها به تهدید اسرائیل | اسرائیل نخواهد ماند
-
لحظه تکبیر آیت‌الله سیدمجتبی خامنه‌ای هنگام ایراد خطبه تاریخی «جمعه نصر» توسط رهبر شهید
-
موشک جدید با قابلیت حمل کلاهک هسته‌ای آزمایش شد+ عکس | نظارت ویژه ماکرون
-
پیغام مهاجم لژیونر به پرسپولیس؛ قرارداد ۵ ساله آماده کنید امضا کنم
-
پاسخ مهم به پرسپولیس؛ دربی و تمام بازی‌های استقلال ۳بر صفر می‌شود؟ | آسانی باعث محرومیت جدید آبی‌ها
-
سارقان در اتوبان مهدی تارتار را گیر انداختند!
-
قطعا خواهان فروپاشی حکومت هستیم + ویدئو | چندین گروه در ایران خواهان مسلح شدن هستند
-
هرگز این ۹ دارو را به طور ناگهانی قطع نکنید
-
دانشمندان با الهام از ژنوم باکتری، هوش مصنوعی کوچک‌تر می‌سازند
-
نسخه بیل گیتس برای مقابله با شوک بازار کار در عصر AI | ربات‌هایی که جای انسان‌ها را می‌گیرند باید مالیات بدهند