هوش های مصنوعی که توهم می زنند و هذیان می گویند!

رئیس بخش موتور جستجوی گوگل در مصاحبه جدیدی به تله های بالقوه استفاده از هوش مصنوعی در چت بات ها اشاره کرده است. او می گوید کاربران و شرکت ها باید مراقب باشند؛ چرا که این فناوری می تواند به پدیده ای موسوم به توهم و هذیان دچار شود.

«پراباکار رغوان»، معاون ارشد گوگل و رئیس بخش موتور جستجو، اخیراً با روزنامه آلمانی Welt am Sonntag مصاحبه کرده است. رویترز می گوید در بخشی از این مصاحبه آمده است: «این شکل از هوش مصنوعی که ما اکنون درحال حرف زدن درباره آن هستیم، گاهی اوقات می تواند به چیزی منتهی شود که به آن توهم می گوییم.»

رغوان توضیح می دهد که سیستم های کامپیوتری با کمک هوش مصنوعی می توانند محتواهایی را تولید کنند که متقاعدکننده به نظر می رسند، اما درحقیقت کاملاً ساختگی هستند. او می گوید یکی از وظایف اصلی آن ها در گوگل محدودسازی این مشکل به کمترین حد ممکن بوده است.

گوگل توسعه مسئولانه هوش مصنوعی را در پیش گرفته است

از زمان اعلام همکاری جدید مایکروسافت با OpenAI و پیاده سازی نسخه پیشرفته تر ChatGPT در بینگ و مرورگر اج، گوگل خطر را احساس کرده است و آن ها هم از فناوری هوش مصنوعی خود برای موتور جستجویشان پرده برداشته اند. رغوان می گوید: «ما شرایط اضطرار را به وضوح حس می کنیم، اما درعین حال احساس مسئولیت هم می کنیم؛ قطعاً نمی خواهیم عموم کاربران را گمراه کنیم.»

گوگل چند روز پیش از فناوری هوش مصنوعی جدیدی به نام Bard پرده برداشت و بعد یک روز پس از رویداد مایکروسافت، دموی این فناوری را به نمایش گذاشت. «بارد» نسخه ای ساده شده از فناوری LaMDA است که می خواهد با کمک کاربران توسعه پیدا کند. بااین حال، اقبال عمومی نسبت به این فناوری چندان مثبت نبوده است.

هوش مصنوعی Bard در ویدیوی تبلیغاتی این فناوری به سؤال مطرح شده پاسخ نادرستی داد که این اتفاق باعث افت قابل توجه قیمت سهام این شرکت شد. برآوردها نشان می دهند که گوگل در یک روز 100 میلیارد دلار از ارزش سهام خود را از دست داده است.

227227