دلایل انتصاب یک مدیر NSA در هیئت مدیره OpenAI
اخیرا یک ژنرال بازنشسته ارتش آمریکا به نام "پل ناکازونه" به کمیته جدید ایمنی و امنیت OpenAI منصوب شده است.
OpenAI یک مدیر NSA (آژانس امنیت ملی ایالات متحده) را در هیئت‌مدیره خود منصوب کرده تا بر ایمنی و امنیت نظارت کند.
به گفته یک تحلیلگر شرکت گارتنر، انتصاب ژنرال بازنشسته ارتش آمریکا پل ام. ناکازونه احتمالاً به دلیل نیاز شرکت به سودآوری است.
آویوا لیتان، تحلیلگر برجسته که حوزه‌های پوشش اصلی او شامل امنیت هوش مصنوعی و بلاک‌چین است، تنها از تجربه عضو جدید OpenAI تعریف کرد. اما پیش‌بینی کرد که حضور او در این شرکت مدت زیادی نخواهد داشت.
ناکازونه از ماه مه ۲۰۱۸ تا فوریه ۲۰۲۴ به عنوان فرمانده فرماندهی سایبری ایالات متحده، یکی از ۱۱ فرماندهی جنگی متحد وزارت دفاع ایالات متحده (DOD)؛ به عنوان مدیر NSA؛ و به عنوان رئیس سرویس امنیت مرکزی (CSS) خدمت کرده است.
علاوه بر عضویت در هیئت‌مدیره OpenAI، ناکازونه همچنین عضو کلیدی کمیته جدید ایمنی و امنیت این شرکت خواهد بود. یک نهاد نظارتی در داخل شرکت که بر ایمنی و امنیت مدل‌های هوش مصنوعی نظارت خواهد کرد. این شرکت در حال توسعه جانشینی برای GPT-4 است.
این شرکت در یک بیانیه خبری اعلام کرد:« امنیت سیستم‌های OpenAI از محافظت از ابرکامپیوترهای بزرگ آموزش هوش مصنوعی که اداره می‌کنیم تا ایمن‌سازی مدل ها و داده‌هایی که مشتریان به ما سپرده‌اند، محور اصلی مأموریت ما است. همزمان با پیشرفت فناوری هوش مصنوعی در مسیر دستیابی به هوش مصنوعی عمومی، ما نسبت به تهدیدات پیچیده‌تر در طول زمان مقاوم‌تر می‌شویم.»
این شرکت اضافه کرد که ناکازونه نیز به تلاش‌های OpenAI برای درک بهتر چگونگی استفاده از هوش مصنوعی جهت تقویت امنیت سایبری با شناسایی و پاسخگویی سریع به تهدیدات امنیت سایبری کمک خواهد کرد.
این انتصاب در زمانی انجام می‌شود که سام آلتمن، مدیرعامل شرکت، درگیر جنجال‌های متعدد است. در تاریخ ۳۰ مه، کامپیوترورلد در مقاله ای این سوال را بررسی کرد: آیا سام آلتمن از OpenAI برای مایکروسافت به یک معضل تبدیل شده است؟
با اشاره به اینکه «شهرت آلتمن با ادعاهایی که او بدون اجازه از صدای اسکارلت جوهانسون برای رابط صوتی یک دستیار شخصی هوش مصنوعی (با نام اسکای) استفاده کرده، خدشه‌دار شده است.»
آلتمن ادعاهای جوهانسون را رد کرد، اما OpenAI بدون هیچ توضیحی صدای او را از اسکای حذف کرد.
یک روز قبل، عضو سابق هیئت‌مدیره OpenAI، هلن تونر، اطلاعات بیشتری از اخراج آلتمن در سال گذشته ارائه کرد. تونر یکی از چهار عضو هیئت مدیره بود که در نوامبر ۲۰۲۳ به اخراج آلتمن رأی داده بود. خود او یک هفته بعد با بازگشت آلتمن از هیئت‌مدیره برکنار شد.
آویوا لیتان از گارتنر اظهار داشت که OpenAI در تلاش است تا اعتماد ناظران مشکوک را دوباره به دست آورد، و این به دلایل خوبی است. آن‌ها واقعاً چقدر در مورد اعتماد و ایمنی نگران هستند؟ سخت است که بدانیم چه چیزی درست و چه چیزی نادرست است.
معمولاً طمع انگیزه اصلی این شرکت‌ها است. ابرشرکت‌ها، OpenAI و همه این گروه‌های دیگر در حال پیشروی به سمت قلمروهای بسیار خطرناک هستند. آن‌ها می‌گویند، اوه، دولت، شما باید حواستان را جمع کنید. آن‌ها می‌دانند که این کار عملی نیست. دولت نمی‌تواند از رسانه‌های اجتماعی مراقبت کند، پس چگونه می‌خواهد از هوش مصنوعی مراقبت کند؟
خلاصه کلام این است که شرکت می‌خواهد در ازای همه این ناشناخته‌ها پول درآورد و آوردن ناکازونه به آن‌ها اعتبار می‌بخشد. او فردی بسیار معتبر است و به صراحت بگویم، خوشحالم که او آنجاست. او سابقه‌ی خوبی دارد. او امنیت سایبری را درک می‌کند، هوش مصنوعی را می‌فهمد و بوروکراسی را می‌شناسد. اما این ها کافی نیست. هیچ‌وقت کافی نخواهد بود.
لیتان اضافه کرد که:«قطار در حال حرکت است و هیچ راهی برای متوقف کردن آن وجود ندارد.»
در مورد مدت زمانی که ناکازونه عضو هیئت مدیره OpenAI خواهد بود، او پیش‌بینی کرد که احتمالاً یکی دو سال و نه بیشتر:« خوب است که او آنجا باشد، اما من تردید دارم که یک فرد بسیار معتبر و با تجربه بتواند کار چندانی انجام دهد.»
به گفته او، ناکازونه فقط به این دلیل که در هیئت مدیره و آن کمیته است، قدرت زیادی نخواهد داشت. توسعه‌دهندگان و افرادی که مسئول مدل‌های هوش مصنوعی هستند همیشه به هیئت مدیره گوش نخواهند داد.
لیتان ادامه داد:« اگر از من بپرسید، هیئت مدیره اغلب نمی‌داند چه خبر است. شرکت‌های آمریکایی معمولاً در مورد آنچه به هیئت مدیره می‌گویند، خیلی محتاط هستند.»
لیتان راه‌اندازی کمیته ایمنی و امنیت و انتصاب ناکازونه را به این صورت توصیف کرد:« حرکت خوبی روی کاغذ است. اما فکر نمی‌کنم که خیلی موثر باشند. اینجا سود انگیزه اصلی است.»
