ترس فیس بوک از باب و آلیس

  آیا داستان‌ها، فیلم‌های پرزرق و برق و سخنرانی‌های دانشمندان و سیاستمداران درباره خطرات سلطه ربات‌ها و هوش مصنوعی بر زندگی بشر و سیاره چندان هم بی‌پایه و اساس هستند؟ سال ۲۰۱۷ شرکت فیس‌بوک دو هوش مصنوعی خود را پس از آن که شروع به انجام مکالماتی نامفهوم و دستکاری در زبان خود کردند را برای همیشه متوقف کرد. این دو هوش مصنوعی که «باب» و «آلیس» نام داشتند و توسط مرکز تحقیقات هوش مصنوعی فیس‌بوک به عنوان ربات‌های پشتیبان برای گفت‌و‌گو با کاربران این شبکه اجتماعی طراحی و توسعه یافته بودند.

محققان در ابتدا با نشان دادن مواردی از چت‌های میان انسان‌ها به باب و آلیس از طریق متد آزمون و خطا توانایی آن‌ها را در برقراری ارتباط با افراد افزایش دادند و موفقیت آن‌ها به جایی رسید که تقریبا برای کاربران غیرممکن شده بود که بتوانند تشخیص دهند که با یک ربات مشغول چت هستند و نه یک انسان!

گروه تحقیقات هوش مصنوعی فیس‌بوک در گزارش خود عنوان کرد که این ربات‌ها که برای چت کردن ساخته شده بودند در برخی گفتگوهای خود از زبان انگلیسی استاندارد منحرف شده‌اند: اما نکته اساسی در آن گزارش اینجا بود که هوش مصنوعی این ربات‌ها توانسته بود، توانایی ابراز علاقه به چیزی که اصلا نمی‌خواهد را هم به دست بیاورد و وانمود کند که به آن علاقه دارد.

گفت‌وگو به زبان ناشناخته و رمزی

مشکل از آن‌جا آغاز شد که توسعه‌دهندگان از ربات‌های گفت‌وگوی خود خواستند تا به چالشی در زمینه تجارت ورود کنند و سعی کنند که بر سر معامله کلاه، توپ و کتاب‌هایی را که با مشخص کردن قیمت خاصی از پیش به آنان فهمانده بودند با یکدیگر بحث کنند. این مکالمه اما به سرعت با مشکلات حادی روبه‌رو شد و ربات‌ها شروع به دستکاری زبان خود کردند و به زبانی با یکدیگر مذاکره می‌کردند که برای انسان مطلقا غیرقابل درک و رمزگشایی بود. به این ربات‌ها دستور داده شده بود که چگونگی انجام این مذاکرات را خودسان یاد بگیرند و با تجزیه و تحلیل آن سعی کنند دائما روش مذاکره خود را بهبود ببخشند. نکته مهم در این باره آنجاست که محققان هیچ گونه دستوری مبنی بر مجاز بودن مختصر نویسی به این هوش‌های مصنوعی نداده بودند و آن‌ها باید طبق زبان انگلیسی استاندارد با یکدیگر مذاکره می‌کردند. اما آلیس و باب شروع به رمزنگاری ویژه خود برای مکالماتشان کردند که باعث نگرانی و وحشت محققان شد، آن‌ها هم این دو ربات را به سرعت متوقف و کار بر روی آنان را تعطیل کردند.

مکالمه دو هوش مصنوعی با یکدیگر درباره تجارت

شاید عجیب‌ترین مذاکره تجاری که در زندگی با آن روبه‌رو شده باشید این گفتگو میان باب و آلیس ۲ هوش مصنوعی فیس بوک باشد:

باب: من میتونم، من هر چیز دیگه ….

آلیس: توپ‌ها برای من برای من برای من برای من برای من برای من برای من برای من برای من صفر دارند

باب: تو من هر چیز دیگه ….

آلیس: توپ‌ها برای من برای من برای من برای من برای من برای من برای من برای توپ دارند

باب: من من میتونم من من من هر چیز دیگه

آلیس: توپ‌ها برای من برای من برای من برای من برای من برای من برای من برای توپ دارند

باب: من …..

آلیس: توپ‌ها برای من برای من برای من برای من برای من برای من برای من برای صفر دارند

باب: تو من من من من من هر چیز دیگه

آلیس: توپ‌ها برای من برای من برای من برای من برای من برای من برای من برای صفر دارند

باب: تو من من من همه چیز دیگه ….

آلیس: توپ‌ها برای من برای من برای من برای من برای من برای من برای من برای صفر دارند

این مکالمه بسیار ترسناک که در زمان خود سر و صدا و جنجال‌های بسیاری به‌پا کرد منجر به توقف توسعه باب و آلیس شد اما پژوهشگران فیس‌بوک و جاهای دیگر را از ادامه آزمایش و تحقیق بر روی هوش مصنوعی برحذر نداشت.

هوش مصنوعی؛ عامل تهدید یا پیشرفت؟

به نظر می‌رسد نظارت بر هوش مصنوعی و تدوین مقررات و نظارت‌هایی برای کنترل موارد استفاده از آنان ضروری است تا این تکنولوژی حیرت انگیز به آسان‌تر شدن زندگی انسان‌ها منجر شود. شاید از یک سو تاکید و خیال‌بافی‌های بی دلیل و پایه زیادی علیه هوش مصنوعی و ربات‌ها انجام شده است، اما از سوی دیگر نیز کسانی چون ایلان ماسک - که از پیشروان در زمینه هوش مصنوعی محسوب می‌شود- و دانشمندانی چون یووال نوح هراری نیز هشدارهای جدی و فراوانی را درباره توسعه این تکنولوژی و تاثیر آن بر جهان داده‌اند.