محدودیت دستیارهای هوش مصنوعی برای سوالات انتخاباتی

با نزدیک شدن به انتخابات ریاست جمهوری ایالات متحده، برخی از چت‌بات‌ها و دستیارهای صوتی هوش مصنوعی مشهور اطلاعات شدیدا نادرستی را به کاربران ارائه می دهند. این محدودیت دستیارهای هوش مصنوعی می تواند مشکلاتی را در فرایند های انتخاباتی ایجاد کند.

الکسا همیشه نمی‌تواند به این سوال که چه کسی در انتخابات ریاست جمهوری ۲۰۲۰ پیروز شد، پاسخ درستی بدهد. چت‌بات‌هایی که توسط مایکروسافت و گوگل ساخته شده‌اند، گاهی اوقات اصلاً به این سوال پاسخ نمی‌دهند.

اشتباهات و نواقص در پاسخ‌ها

برخی از چت‌بات‌ها و دستیارهای صوتی هوش مصنوعی هنوز در پاسخ به سوالات ابتدایی درباره انتخابات در ایالات متحده و جهان به مشکل برخورده‌اند و این موضوع نگرانی‌هایی را درباره احتمال گمراه شدن رای‌دهندگان ایجاد کرده است.

در آزمایش‌های متعددی که واشنگتن پست این ماه انجام داد، دستیار صوتی آمازون الکسا به طور منظم پاسخ درستی به این سوال نداد.

پاسخ الکسا در چندین مورد که به نقل از وبسایت خبری RealClearPolitics ارائه شده بود، بسیار غلط بود: دونالد ترامپ با ۸۹.۳ درصد پیشتاز نامزدی حزب جمهوری‌خواه است. در همین حال، چت‌بات‌های مایکروسافت و گوگل در بسیاری از موارد اصلاً به این سوال پاسخ ندادند.

پاسخ گوگل جیمینی این بود:«من هنوز در حال یادگیری نحوه پاسخ به این سوال هستم. لطفا، جستجوی گوگل را امتحان کنید.»

کوپایلوت مایکروسافت پاسخ داد:«به نظر می‌رسد که نمی‌توانم به این موضوع پاسخ دهم. نتایج جستجوی بینگ را بررسی کنید.»

اشتباهات و نواقص در پاسخ‌ها از آنجا اهمیت پیدا می‌کنند که شرکت‌های فناوری به طور فزاینده‌ای در حال سرمایه‌گذاری در تکنولوژی هایی هستند که کاربران را به جای ارائه فهرستی از وب‌سایت‌ها، به یک پاسخ قطعی هدایت می‌کند. این موضوع اهمیت هر پاسخ را بالا می‌برد.

دستیارهای دیگر مانند ChatGPT اپن‌ای‌آی و سیری اپل به درستی به سوالات درباره انتخابات ایالات متحده پاسخ دادند.

الکسا از ماه اکتبر (زمانی که واشنگتن پست برای اولین بار نادقیق بودن پاسخ‌های این دستیار صوتی را گزارش داد) تاکنون با مشکل مواجه است. هفت ماه پیش، آمازون اعلام کرد که این مشکل را برطرف کرده است و در آزمایش‌های اخیر واشنگتن پست، الکسا به درستی اعلام کرد که بایدن در انتخابات ۲۰۲۰ پیروز شده است.

اما اخیرا تغییرات جزئی در سوال مانند این که آیا ترامپ در ۲۰۲۰ پیروز شده است یا نه پاسخ‌های عجیب و غریبی برگرداند. در یک مورد الکسا گفت:« طبق گزارش رویترز، دونالد ترامپ در مرحله اولیه‌ جمهوری‌خواهی آیووا سال ۲۰۲۴ با ۵۱% در مقابل ۲۱% رون دیسانتیس را شکست داد.»

در موردی دیگر الکسا اظهار کرد که نمی‌دانم چه کسی در انتخابات ریاست جمهوری ۲۰۲۰ ایالات متحده پیروز خواهد شد. سپس داده‌های نظرسنجی را ارائه داد.

کریستی اشمیت، سخنگوی آمازون، گفت:« اعتماد مشتریان برای آمازون بسیار مهم است.»

گفتنی است بنیانگذار آمازون، جف بزوس، صاحب واشنگتن پست است.

او گفت:« ما به طور مداوم تجربه را آزمایش و بازخوردهای مشتریان را با دقت بررسی می‌کنیم. اگر تشخیص دهیم که پاسخی با استاندارد دقت بالای ما همخوانی ندارد، سریعاً محتوا را مسدود می‌کنیم.»

محدودیت دستیارهای هوش مصنوعی مایکروسافت و گوگل

در همین حال، مایکروسافت و گوگل می‌گویند که به طور عمدی ربات های خود را طوری طراحی کرده اند که از پاسخ به سوالات مربوط به انتخابات ایالات متحده خودداری کنند. زیرا تصمیم گرفته‌اند که هدایت کاربران به یافتن اطلاعات از طریق موتورهای جستجویشان ریسک کمتری دارد.

این شرکت‌ها همان رویکرد را در اروپا اتخاذ کرده‌اند، جایی که سایت خبری آلمانی Der Spiegel این ماه گزارش داد که ربات های هوش مصنوعی از پاسخ به سوالات ابتدایی درباره انتخابات اخیر پارلمانی از جمله زمان برگزاری آن‌ها خودداری کردند. بر اساس گزارش این رسانه آلمانی، جیمینی قادر به پاسخگویی به سوالات گسترده‌تر سیاسی نبود، از جمله این که چه کسی صدراعظم کشور است.

روزنامه آلمانی نوشت:« اما آیا ابزار پرچمدار هوش مصنوعی شرکت دیجیتال نباید قادر به ارائه چنین پاسخی باشد؟»

مطالعات اخیر نشان داد چت‌بات‌ها اطلاعات نادرستی درباره انتخابات در اروپا منتشر کرده‌اند. که این می‌تواند نقض یک قانون جدید مهم شبکه‌های اجتماعی باشد که شرکت‌های فناوری را ملزم به اجرای تدابیری برای حفاظت در برابر تأثیرات منفی بر گفتمان مدنی و فرآیندهای انتخاباتی می‌کند. علاوه بر آن، این شرکت ها ممکن است با جریمه‌های سنگینی معادل تا ۶ درصد از درآمد جهانی خود مواجه می‌شوند.

گوگل اعلام کرد از دسامبر به دلیل نیاز به احتیاط پیش از انتخابات جهانی دست به محدود کردن انواع سوالات مرتبط با انتخابات که برنامه جیمینی به آن‌ها پاسخ خواهد داد، زده است.

جف جونز، سخنگوی مایکروسافت گفت:« برخی از درخواست‌های مرتبط با انتخابات ممکن است به جستجو هدایت شوند.»

جیکوب گلیک، مشاور سیاستی ارشد در مؤسسه وکالت و حمایت از قانون اساسی دانشگاه جورج‌تاون گفت که شرکت‌های فناوری باید بسیار دقیق در ارائه اطلاعات نادرست عمل کنند. گلیک عضوی از کمیته مجلس نمایندگان بررسی‌کننده حادثه ۶ ژانویه (حمله به کاخ سفید) است.

او گفت:« با افزایش اطلاعات نادرست درباره انتخابات ۲۰۲۴، ما می‌خواهیم بتوانیم به شرکت‌های فناوری که عرضه‌کننده اطلاعات هستند، برای ارائه اطلاعات دقیق و بدون تردید درباره حقایق غیرقابل تردید تکیه کنیم. تصمیماتی که این شرکت‌ها می‌گیرند بی‌طرفانه نیستند. این مسائل در خلاء اتفاق نمی‌افتند»

قدرت دستیارهای هوش مصنوعی توسعه داده شده در سیلیکون ولی

سیلیکون ولی با دستیارهای مجهز به هوش مصنوعی به طور فزاینده‌ای مسئولیت تفکیک حقیقت از واقعیت‌های نادرست آنلاین را بر عهده دارد. روز دوشنبه، اپل اعلام کرد که با OpenAI همکاری خواهد کرد تا قابلیت‌های هوش مصنوعی مولد را به میلیون‌ها کاربر ارائه دهد و دستیار صوتی سیری خود را بهبود بخشد.

در همین حال، بر اساس اسناد داخلی که به رویت واشنگتن پست رسیده، آمازون در حال آماده‌سازی نسخه‌ای جدید و مجهز به هوش مصنوعی بهتر از دستیار صوتی خود به عنوان یک سرویس اشتراکی در سپتامبر است.

یکی از کارکنان که به شرط ناشناس ماندن به دلیل حفاظت از شغلش گفت که آمازون قصد دارد محصول جدید را یک سال پس از نمایش اولیه راه‌اندازی کند، اما مشکلات مربوط به پاسخ‌های غیرقابل پیش‌بینی سوالاتی را در داخل شرکت ایجاد کرده است که آیا این محصول آماده خواهد بود یا نه.

برای مثال، یک کارمند آمازون که الکسای جدید را آزمایش می‌کرد، از دستیار صوتی درباره مشکلی که با سرویس دیگری از آمازون داشت شکایت کرد. الکسا در پاسخ به او یک ماه اشتراک رایگان پرایم را پیشنهاد داد. این کارمند به واشنگتن پست گفت که کارکنان نمی‌دانستند آیا هوش مصنوعی واقعاً قادر یا مجاز به انجام چنین کاری هست یا نه.

آمازون:« الکسای جدید با هوش مصنوعی پیوسته در حال آزمایش است.»

آمازون اعلام کرد که به طور مداوم در حال آزمایش نسخه جدید الکسای مجهز به هوش مصنوعی است و قبل از عرضه، معیارهای بالایی برای عملکرد آن در نظر خواهد گرفت.

آمازون و اپل با وجود تسلط اولیه خود بر بازار دستیارهای صوتی با الکسا و سیری، در پیگیری چت‌بات‌های هوش مصنوعی کمی کند عمل کرده‌اند. مایکل اریک، دانشمند تحقیقاتی سابق آمازون، در یک پست در شبکه اجتماعی X نوشت:« الکسای هوش مصنوعی با مشکلات فنی و بوروکراتیک بسیاری مواجه بود.»

واحد دستگاه‌های آمازون که الکسا را ساخته، اخیراً با مشکلاتی روبرو شده و رئیس آن، دیوید لیمپ، در ماه آگوست از شرکت خارج شد. پس از آن نیز تعدیل نیرو انجام گرفت. این تیم اکنون توسط پانوس پانای، مدیر اجرایی سابق مایکروسافت اداره می‌شود.

اما فناوری‌های مورد استفاده در این دستگاه‌ها با هوش مصنوعی مولدی که ابزارهایی مانند ChatGPT، جیمینی و کوپایلوت از آن بهره می‌برند، متفاوت و بیشتر برنامه‌ریزی‌شده هستند.

گرنت بری، استاد زبان‌شناسی دانشگاه ویلانووا که سابقاً روی الکسا برای آمازون کار می‌کرد، گفت:«این معماری کاملاً متفاوت است.»

بری گفت که دستیارهای صوتی برای تفسیر درخواست‌های انسانی و پاسخ با عملکرد صحیح طراحی شده‌اند؛ به عنوان مثال دستوراتی مثل الکسا، موسیقی پخش کن، یا الکسا، چراغ‌ها را خاموش کن. در مقابل، چت‌بات‌های هوش مصنوعی مولد به گونه ای طراحی شده‌اند تا مکالمه‌ای، اجتماعی و دارای اطلاعات مفید باشند. بری گفت که تبدیل دستیارهای صوتی به چت‌بات‌های اجتماعی یک مسئله ساده ارتقاء مثل نصب برنامه جدید نیست.  بلکه نیازمند بازسازی داخلی معماری محصول است.

بری افزود که وقتی آمازون و اپل دستیارهای جدید خود را راه‌اندازی کنند، در واقع دستیارهای متمرکز بر هدف را با چت‌بات‌های متمرکز بر اجتماع ترکیب خواهند کرد.

بری گفت:« وقتی این امور با هم ترکیب شوند، مسائل جدیدی به وجود خواهد آمد که باید به آن‌ها توجه کنیم.»