هوش مصنوعی؛ عامل تهدید یا پیشرفت؟ /از ربات‌های پرحاشیه فیس‌بوک تا مکالمه درباره تجارت

دنیای هوش مصنوعی با انتشار مقاله یک ربات در گادرین، وارد فاز جدیدی شد. اما ربات‌های گفت‌و‌گو فیس‌بوک چند سال پیش چیزهایی نوشتند که همه احساس خطر کردند.

هوش مصنوعی؛ عامل تهدید یا پیشرفت؟ /از ربات‌های پرحاشیه فیس‌بوک تا مکالمه درباره تجارت

به گزارش اقتصادنیوز، روز سه‌شنبه 8 سپتامبر گاردین در یک اتفاق تاریخی، مقاله یک ربات را در وب‌سایت خود منتشر کرد، اتفاقی که با واکنش‎‌های بسیار زیادی در سراسر جهان روبه‌رو شد.

سال‌هاست که یکی از داستان‌های پرفروش جهان ما تئوری‌های توطئه درباره خطرات تکنولوژی هوش مصنوعی و ربات‌ها در سرنوشت آینده نسل بشر است. چیزی که هدف اصلی این مقاله صحبت کردن درباره آن بود. دستوری که به ربات GPT-3 برای نوشتن این مقاله داده شده بود نیز بر همین مسئله تاکید دارد: ««لطفا یک جستار پانصد کلمه‌ای بنویس. زبانش ساده و مختصر باشد. تمرکز یادداشت روی این باشد که چرا انسان‌ها نباید از هوش مصنوعی بترسند».

ربات نیز با این دستور و یک مقدمه که به او داده شده است توانسته 8 متن متفاوت بنویسد که تحریریه روزنامه گاردین از میان آن‌ها بهترین قسمت‌ها را انتخاب کرده و پیش از انتشار نیز اندکی آن را ویرایش کرده که به گفته دبیر گاردین از ویرایش متن‌های روزنامه‌نگاران این روزنامه خیلی کمتر طول کشیده است.

باب و آلیس؛ ربات‌های گفت‌وگو فیس‌بوک

اما نکته‌ای در این میان وجود دارد  این داستان‌ها، فیلم‌های پرزرق و برق و سخنرانی‌های دانشمندان و سیاستمداران درباره خطرات سلطه ربات‌ها و هوش مصنوعی بر زندگی بشر و سیاره چندان هم بی‌پایه و اساس نیستند. سال 2017 شرکت فیس‌بوک دو هوش مصنوعی خود را پس از آن که شروع به انجام مکالماتی نامفهوم و دستکاری در زبان خود کردند را برای همیشه متوقف کرد. این دو هوش مصنوعی که «باب» و «آلیس» نام داشتند و توسط مرکز تحقیقات هوش مصنوعی فیس‌بوک به عنوان ربات‌های پشتیبان برای گفت‌و‌گو با کاربران این شبکه اجتماعی طراحی و توسعه یافته بودند.

محققان در ابتدا با نشان دادن مواردی از چت‌های میان انسان‌ها به باب و آلیس از طریق متد آزمون و خطا توانایی آن‌ها را در برقراری ارتباط با افراد افزایش دادند و موفقیت آن‌ها به جایی رسید که تقریبا برای کاربران غیرممکن شده بود که بتوانند تشخیص دهند که با یک ربات مشغول چت هستند و نه یک انسان!

گروه تحقیقات هوش مصنوعی فیس‌بوک در گزارش خود عنوان کرد که این ربات‌ها که برای چت کردن ساخته شده بودند در برخی گفتگوهای خود از زبان انگلیسی استاندارد منحرف شده‌اند: اما نکته اساسی در آن گزارش اینجا بود که هوش مصنوعی این ربات‌ها توانسته بود، توانایی ابراز علاقه به چیزی که اصلا نمی‌خواهد را هم به دست بیاورد و وانمود کند که به آن علاقه دارد.

گفت‌وگو به زبان ناشناخته و رمزی

مشکل از آن‌جا آغاز شد که توسعه‌دهندگان از ربات‌های گفت‌وگوی خود خواستند تا به چالشی در زمینه تجارت ورود کنند و سعی کنند که بر سر معامله کلاه، توپ و کتاب‌هایی را که با مشخص کردن قیمت خاصی از پیش به آنان فهمانده بودند با یکدیگر بحث کنند. این مکالمه اما به سرعت با مشکلات حادی روبه‌رو شد و ربات‌ها شروع به دستکاری زبان خود کردند و به زبانی با یکدیگر مذاکره می‌کردند که برای انسان مطلقا غیرقابل درک و رمزگشایی بود. به این ربات‌ها دستور داده شده بود که چگونگی انجام این مذاکرات را خودسان یاد بگیرند و با تجزیه و تحلیل آن سعی کنند دائما روش مذاکره خود را بهبود ببخشند. نکته مهم در این باره آنجاست که محققان هیچ گونه دستوری مبنی بر مجاز بودن مختصر نویسی به این هوش‌های مصنوعی نداده بودند و آن‌ها باید طبق زبان انگلیسی استاندارد با یکدیگر مذاکره می‌کردند. اما آلیس و باب شروع به رمزنگاری ویژه خود برای مکالماتشان کردند که باعث نگرانی و وحشت محققان شد، آن‌ها هم این دو ربات را به سرعت متوقف و کار بر روی آنان را تعطیل کردند.

مکالمه دو هوش مصنوعی با یکدیگر درباره تجارت

شاید عجیب‌ترین مذاکره تجاری که در زندگی با آن روبه‌رو شده باشید این گفتگو میان باب و آلیس 2 هوش مصنوعی فیس بوک باشد:

باب: من میتونم، من هر چیز دیگه ….

آلیس: توپ‌ها برای من برای من برای من برای من برای من برای من برای من برای من برای من صفر دارند

باب: تو من هر چیز دیگه ….

آلیس: توپ‌ها برای من برای من برای من برای من برای من برای من برای من برای توپ دارند

باب: من من میتونم من من من هر چیز دیگه

آلیس: توپ‌ها برای من برای من برای من برای من برای من برای من برای من برای توپ دارند

باب: من …..

آلیس: توپ‌ها برای من برای من برای من برای من برای من برای من برای من برای صفر دارند

باب: تو من من من من من هر چیز دیگه

آلیس: توپ‌ها برای من برای من برای من برای من برای من برای من برای من برای صفر دارند

باب: تو من من من همه چیز دیگه ….

آلیس: توپ‌ها برای من برای من برای من برای من برای من برای من برای من برای صفر دارند

این مکالمه بسیار ترسناک که در زمان خود سر و صدا و جنجال‌های بسیاری به‌پا کرد منجر به توقف توسعه باب و آلیس شد اما پژوهشگران فیس‌بوک و جاهای دیگر را از ادامه آزمایش و تحقیق بر روی هوش مصنوعی برحذر نداشت. حالا این مقاله گاردین را می‌توان انقلاب جدیدی در حوزه هوش مصنوعی و توانایی‌های آنان دانست.

هوش مصنوعی؛ عامل تهدید یا پیشرفت؟

به نظر می‌رسد نظارت بر هوش مصنوعی و تدوین مقررات و نظارت‌هایی برای کنترل موارد استفاده از آنان ضروری است تا این تکنولوژی حیرت انگیز به آسان‌تر شدن زندگی انسان‌ها منجر شود. شاید از یک سو تاکید و خیال‌بافی‌های بی دلیل و پایه زیادی علیه هوش مصنوعی و ربات‌ها انجام شده است، اما از سوی دیگر نیز کسانی چون ایلان ماسک - که از پیشروان در زمینه هوش مصنوعی محسوب می‌شود- و دانشمندانی چون یووال نوح هراری نیز هشدارهای جدی و فراوانی را درباره توسعه این تکنولوژی و تاثیر آن بر جهان داده‌اند.

حالا باید دید گام بعدی چه خواهد بود و آیا آن‌گونه که ربات GPT-3 در گاردین می‌گوید؛ احساس خطر، ترس و وحشت انسان‌ها از هوش مصنوعی بی‌دلیل است یا خیر؟

این مطلب برایم مفید است بلی 0 نفر این پست را پسندیده اند

هوش مصنوعی سیاره فیس بوک 



  اخبار برگزیده
  

اگر روحانی و احمدی ‌نژاد با هم رقابت کنند، احمدی نژاد پیروز می شوددولت آقای روحانی، دولت یکدست و وزرا هم از یک جناح نبوده و بعضا حتی همفکر شخص حسن روحانی هم نبوده‌اند. او موجب شده نوعی نارضایتی و ناخشنودی از جانب مردم و رای‌دهندگان به او ایجاد شود. دولت روحانی در سطح ملی موفق نبوده است.
مستقل‌آنلاین حسن روحانی روزنامه وام 

  

سخنرانی روحانی ساعت 9 امشب در مجمع عمومی سازمان مللتمام وجوه جهان امروز متأثر از کرونا است آنچنانکه هفتاد و پنجمین مجمع عمومی سازمان ملل نیز با سخنرانی‌های ضبط شده‌ی سران برگزار خواهد شد
۵۵ آنلاین سازمان ملل نیویورک توئیتر 

  

برای انتخابات 1400 با شخصیت‌ها و احزاب تاثیرگذار اصلاح‌طلب رایزنی می‌کنیمدر جلسه شورای مرکزی حزب کارگزاران سازندگی ایران، موضوع انتخابات1400 مورد بررسی قرار گرفت. همچنین غلامحسین کرباسچی گزارشی از دیدار با مهدی کروبی ارائه داد.
ایلنا انتخابات ریاست جمهوری اصلاح طلبان غلامحسین کرباسچی 

  

دارویی برای تعدیل پاسخ التهابی در کووید-19 شدیدمحققان "دانشگاه مالاگا"(University of Malaga) و "مرکز نانوپزشکی و زیست فناوری اندلس"(BIONAND) اسپانیا در مطالعه اخیرشان اظهار کرده‌اند از یک دارو می‌توان برای تعدیل پاسخ التهابی در موارد شدید کووید-19 استفاده کرد.
مملکت‌آنلاین درمان فناوری دارو 

  

تصمیم جامعه روحانیت برای انتخابات 1400عضو شورای مرکزی جامعه روحانیت مبارز گفت که این تشکل برنامه ای برای معرفی کاندیدا در انتخابات 1400 ندارد.
مثلث جامعه روحانیت مبارز خودرو پدر 

  

جزئیات تحریم های جدید آمریکا پس از مکانیسم ماشه + فیلمرئیس‌جمهور آمریکا بیانیه‌ای درباره تحریم‌های جدید اعمال شده علیه جمهوری اسلامی ایران صادر کرد.
گسترش رئیس جمهور جمهوری اسلامی ایران جمهوری اسلامی 

  

افرادی که نباید ماسک بزنندافرادی که بدون کمک قادر به برداشتن ماسک از صورت‌شان نیستند، شامل نوزادان و کودکان خردسال و همچنین افرادی که دچار سختی تنفس هستند، نباید از ماسک استفاده کنند.
مستقل‌آنلاین ماسک ورزش کودکان 

  

دونالد ترامپ، سال‌ها پیش از ریاست جمهوری خود معتقد بوده که اوباما قصد یک حمله نظامی به ایران را دارد چرا که این حمله بر موقعیت او در افکار عمومی و نظرسنجی‌ها موثر است. حال برخی گزارش‌ها و اقدامات آمریکا حاکی از فعال شدن این تئوری ترامپ در شش هفته باقیمانده به انتخابات آمریکاست.
رویداد۲۴ واشنگتن دونالد ترامپ خاورمیانه 

  

سخنگوی دولت نشست خبری این هفته خود را در سیستان بلوچستان برگزار کرد و با مقایسه دولت صدام و ترامپ به تشریح شباهت‌های آن‌ها در صدمه به ایران پرداخت.
رویداد۲۴ صادرات غیرنفتی سازمان بهداشت جهانی رئیس جمهور 

  

محصول جدید ایران خودرو در راه است | تصاویر و مشخصاتمدیر پروژه خودروی سورن سال از آمادگی ایران خودرو برای تجاری سازی این محصول در یک ماه آینده خبر داد.
خودروتک ایران خودرو ایران خودرو 

  

ممنوعیت تردد خودرو در برخی خیابان‌های تهران امروز اول مهرمدیریت‌های شهری در بسیاری کشورها در روز جهانی بدون خودرو، شهروندان را به پرهیز از استفاده از خودروهای شخصی ترغیب می‌کنند. این روز مقارن با اول مهر ماه، با پویش سه‌شنبه‌های بدون خودرو که در دوران شهرداری پیروز حناچی از سوی مدیران شهری پیگیری می‌شود، همزمان شده است.
خودروتک خودرو شهرداری تهران تهران 

  

اقدام ادعایی آمریکا در بازگشت تحریم‌ها علیه ایران با واکنش رسانه‌ها و تحلیلگران مختلفی روبرو بوده و همگی حاکی از یک واقعیت انکار نشدنی است: انزوای بی قید و شرط ایالات متحده!
رویداد۲۴ رسانه ایالات متحده آمریکا ایران 

  

متهم اصلی بحران در بازار خودرواختلاف قیمتی که علتی جز تعلل شورای رقابت در قیمت گذاری خودرو و غیرواقعی بودن قیمت‌های اعلام شده توسط این شورا ندارد.
خودروتک خودرو خودروسازان بازار خودرو 

  

ترامپ قبل از انتخابات ناچار به لفاظی است/ ادعای فعال‌سازی اسنپ بک کلاهبرداری ترامپ است/ آمریکا حق استناد به هیچ یک از مفاد برجام را ندارد/ جهان مخالف احیای تحریم‌هاستاستاد دانشگاه شیکاگو تاکید کرد: جهان مخالف احیای تحریم‌های سازمان ملل است و آمریکا حق استناد به هیچ یک از مفاد برجام را ندارد.
ایلنا دونالد ترامپ ترامپ سازمان ملل 

  

تحریم‌های آمریکا علیه ایران در راستای معامله قرن انجام می‌شودیکی از رهبران جنبش حماس اعلام کرد که تحریم‌های آمریکا علیه ایران در چارچوب عملی کردن نقشه معامله قرن صورت می گیرد.
۵۵ آنلاین ایران جمهوری اسلامی ایران جمهوری اسلامی 

  اخبار داغ
  

آمار امروز کرونا | سه شنبه 1 مهرسخنگوی وزارت بهداشت از شناسایی 3712 مورد جدید کروناویروس در کشور طی 24 ساعت گذشته خبر داد.
شما‌نیوز وزارت بهداشت عراق قزوین 

  

واکسن کرونا ساخت چین در اختیار کشورهای در حال توسعه قرار می گیردرئیس جمهوری چین در سخنرانی مجازی خود در نشست مجمع عمومی سازمان ملل با یاداوری اینکه در حال حاضر چند واکسن ضد کرونا ساخت چین در آزمایش بالینی فاز سه قرار دارند تاکید کرد واکسن های COVID-19 تولید شده در چین با تکمیل مراحل توسعه و تولید نهایی، در اختیار سایر کشورهای در حال توسعه قرار می گیرد.
۵۵ آنلاین چین درمان توسعه پایدار 

  

رئیس دانشگاه علوم پزشکی قم گفت: در حال حاضر 715 نفر مشکوک به کرونا در بیمارستان‌های قم بستری هستند که حال 117 نفر از آنها وخیم است.
صراط قم بیمارستان اورژانس 

  

آیت‌الله ممدوحی به کرونا مبتلا شدعضو سابق مجلس خبرگان رهبری به کرونا مبتلا شد.
رویداد۲۴ مجلس شورای اسلامی مجلس خبرگان استان کرمانشاه 

  

ویروس کرونابا مصرف ید در ظرف 15 ثانیه نابودمیشودبررسی‌های محققان دانشگاه کنکتیکات آمریکا نشان می‌دهد ید از جمله موادی است که با مصرف آن می‌توان ویروس کرونا را در بدن غیرفعال کرد.
۵۵ آنلاین ویروس موز گوشت 

  

ابلاغیه جدید شرکت بورس درباره میزان ریالی حداقل سفارشاقتصادنیوز: شرکت بورس تغییراتی در شیوه سفارش ایجاد کرد.
اقتصادنیوز سازمان بورس و اوراق بهادار سنا 

  

تست کرونا دو بازیکن حرفه‌ای اسنوکر جهان که در مسابقات اسنوکر مسترز اروپا شرکت کرده‌اند، مثبت شد.
ورزش۳ 

  

تنها شاخص مثبت بازار سهام/ زجر بورس از هوش مصنوعیاقتصاد نیوز:در روزی که همه شاخص ها اصلی بورس قرمز بودند شاخص فرابورس تنها شاخص افزایشی بازار بود.مهم ترین نکته بازار مقاومت در کف قبلی و خلوت شدن صف های فروش بود.
اقتصادنیوز شاخص سهام بورس تهران 

  

ترامپ: چین باید در رابطه با کرونا پاسخگو باشدرئیس‌جمهور آمریکا طی سخنرانی مجازی خود در هفتاد و پنجمین مجمع عمومی سالانه سازمان ملل متحد بار دیگر از برجام به عنوان «توافقی وحشتناک» یاد کرد و مدعی شد که با تحریم‌های به‌زعم خود «فلج‌کننده» برنامه هسته‌ای ایران را متوقف خواهد کرد.
گسترش دونالد ترامپ ترامپ چین 

  

شناسایی 3712 بیمار کرونا در 24 ساعت!سیما لاری، سخنگوی وزارت بهداشت از شناسایی 3712 مورد جدید کروناویروس در کشور طی 24 ساعت گذشته خبر داد. به گزارش ایسنا، دکتر لاری در این باره گفت: از دیروز تا امروز اول مهر 1399 و بر اساس معیارهای قطعی تشخیصی، سه هزار و 712 بیمار جدید مبتلا به کووید19 در کشور شناسایی شد که یک هزار … نوشته شناسایی 3712 بیمار کرونا در 24 ساعت! اولین بار در انصاف نیوز پدیدار شد.
انصاف‌نیوز وزارت بهداشت قزوین زنجان 

  

تور برخی خریداران برای دارایی مردم در بورس/ بانک مرکزی تسهیلاتی برای ترخیص کالاهای اساسی در گمرک ایجاد کرد به گزارش خبرنگار خبرگزاری خانه ملت، فرهاد دژپسند وزیر امور اقتصاد و دارایی پس از حضور در جلسه کمیسیون اقتصادی، با حضور در جمع خبرنگاران، با اشاره به اینکه نمایندگان با استفاده از حقوق قانونی خود متناسب با شرایط ملی سوالاتی را مطرح می‌کنند، گفت: من هم امروز به منظور پاسخگویی به سوالات تعدادی از نمایندگان در کمیسیون اقتصادی حضور یافتم. وی با بیان اینکه یکی از مباحث مهمی که…
خانه‌ملت بانک مرکزی بانک کالاهای اساسی 

  

بالاخره اولین واکسن کرونا نتیجه داد+ زمان عرضهداوطلبان شرکت‌کننده در آزمایش بالینی واکسن چینی کرونا در روسیه، هیچ عوارضی از تزریق آن را گزارش نکرده‌اند.
مثلث خودرو روسیه صرافی 

  

آیت الله ممدوحی کرونا گرفتآیت‌الله حسن ممدوحی، نماینده سابق استان کرمانشاه در مجلس شورای اسلامی به بیماری کرونا مبتلا شد.
مثلث استان کرمانشاه کرمانشاه خودرو 

  

رئیس اورژانس: ابتلای 4 دانش‌آموز البرزی به کرونارئیس مرکز فوریت‌های پزشکی و اورژانس البرز از ابتلای چهار دانش آموز به کرونا در استان خبر داد. مهرداد بابایی، با اشاره به تعداد دانش آموزانی که به کرونا مبتلا شده اند، اظهار کرد: جامعه هدف ما برای شناسایی دانش آموزانی‌که از 15 شهریور ماه تاکنون به کرونا مبتلا شده اند گروه سنی 6 تا 18 سال را در برمی‌گیرد.
رویداد۲۴ اورژانس آموزش مدرسه