نگرانی اپل از تبدیل عکس‌های واقعی به تصاویر خیالی با هوش مصنوعی
کرگ فدریگی، مدیر بخش نرم‌افزار اپل، اعلام کرد که این شرکت در خصوص افزودن حتی ویژگی‌های ساده‌ای برای حذف اشیا در دستگاه‌هایش بحث‌های زیادی داشته است.
انتشار اپل اینتلیجنس، لحظه‌ای برای تأمل درباره عکس چیست؟ برای اپل به وجود آورده است. در مصاحبه‌ای با وال استریت ژورنال، کرگ فدریگی گفت که اپل قصد دارد ابزارهای ویرایش تصویر با هوش مصنوعی را به گونه‌ای ارائه دهد که اصالت عکس حفظ شود.
فدریگی اظهار داشت: «محصولات ما، گوشی‌هایمان، بسیار استفاده می‌شوند. برای ما مهم است که اطلاعات دقیق را منتقل کنیم، نه تصاویر خیالی را.»
در iOS 18.1 قابلیت جدیدی به نام Clean Up به اپلیکیشن Photos اضافه شده که می‌تواند به سرعت اشیا و افراد را از تصاویر حذف کند — قابلیتی که به گفته فدریگی و خبرنگار وال استریت ژورنال، بسیار محدودتر از ابزارهای ویرایش رقبا مانند گوگل و سامسونگ است. ابزارهایی که می‌توانند عناصری کاملا مصنوعی، تولید شده با هوش مصنوعی را به عکس‌ها اضافه کنند. با وجود محدودیت‌های Clean Up، فدریگی گفت که در مورد افزودن آن، بحث‌های داخلی زیادی انجام شده است.
فدریگی پس از نمایش قابلیت Clean Up که در آن اقلامی از پس‌زمینه‌ی عکس حذف شدند، گفت: «آیا می‌خواهیم حذف کردن بطری آب یا میکروفون را آسان کنیم؟ چون وقتی عکس گرفتید، آن بطری آب آنجا بود. تقاضای مردم برای پاک‌سازی جزئیات اضافه بسیار زیاد بوده است. به‌نظر می‌رسد که این تقاضا باعث تغییر اساسی در مفهوم «رویداد» نمی‌شود. به همین دلیل ما حاضر شدیم این گام کوچک را برداریم.»
فدریگی تأکید کرد که اپل «نگران» تأثیر هوش مصنوعی بر دیدگاه مردم نسبت به محتوای عکاسی به عنوان نشانی از واقعیت است. این موضوعی است که در Verge نیز به‌کرات به آن پرداخته شده است. ابزارهای ویرایش مانند قابلیت Reimagine گوگل، به افراد این امکان را می‌دهند که با یک توصیف متنی ساده، تصاویری از شیر، بمب و حتی مواد مخدر را به عکس‌ها اضافه کنند. این امر می‌تواند اعتماد به عکس‌ها را بیش از پیش تضعیف کند. برنامه‌های ویرایش بر پایه هوش مصنوعی، در صورت استفاده نادرست، ابزارهایی برای فریب دیگران با تصاویر جعلی و واقعی‌نما فراهم می‌کنند.
در حال حاضر، Apple Intelligence به کاربران اجازه نمی‌دهد مانند سرویس‌های رقیب، تغییرات هوش مصنوعی تولیدشده را به تصاویر اضافه کنند. تصاویر ویرایش‌شده با ویژگی حذف اشیا، در برنامه Photos با برچسب «ویرایش‌شده با Clean Up» مشخص شده و دارای متادیتایی هستند که نشان می‌دهد تغییراتی روی آن‌ها اعمال شده است.
اپل تنها شرکتی نیست که چنین احتیاط‌هایی را در نظر گرفته است — ابتکار Adobe تحت عنوان Content Authenticity Initiative نیز یک سیستم مشابه به نام «اعتبار محتوایی» ارائه کرده که هدف آن کمک به تشخیص تصاویر واقعی از جعلیات هوش مصنوعی است.
این اقدام نیازمند پشتیبانی شرکت‌های فناوری، دوربین و رسانه است که البته حمایت از آن به‌تدریج رو به افزایش است. هنوز مشخص نیست که آیا سیستم متادیتای اپل از Content Credentials پشتیبانی خواهد کرد یا خیر.
