چگونه هوش مصنوعی گزارش‌های پلیس را تغییر می‌دهد
برخی از ادارات پلیس کالیفرنیا در حال حاضر از ابزارهای هوش مصنوعی برای کمک به نگارش گزارش‌ها استفاده می‌کنند. و این مسئله موجب نگرانی برخی کارشناسان شده است. با مقاله زیر از گاردین همراه باشید.
افسر پلیس “وندی ونگاس” به آرامی و به زبان اسپانیایی با دختر ۱۴ ساله‌ای که در کنار جاده‌ای باریک در یک منطقه مسکونی در شرق “پالو آلتو” ایستاده بود، صحبت می‌کرد. صورت دختر از گریه پف کرده بود و به آرامی توضیح می‌داد که چه اتفاقی افتاده است.
دختر گفت که پدرش صبح همان روز او و دوست‌پسرش را در حالی که “کارهایی” انجام می‌دادند، دیده و سپس یا به پسر ضربه زده یا او را هل داده است. ونگاس بعداً توضیح داد که اکنون پلیس برای مصاحبه با هر سه آن‌ها به محل آمده است. تا اینجای کار، همه چیز مطابق روال عادی بود. اما زمانی که قرار بود این حادثه به یک گزارش تبدیل شود، ونگاس از یک دستیار جدید کمک گرفت: یک ابزار هوش مصنوعی پیشرفته به نام “درفت وان”.
شرق پالو آلتو، شهری کوچک و کارگری که ممکن است دنیایی دور از همسایگان خود در سیلیکون ولی به نظر برسد، یکی از چندین اداره پلیس کالیفرنیاست که مانند شهرهای “کمپبل”، “سن ماتئو”، “بیشاپ” و “فرزنو” شروع به استفاده یا آزمایش این نرم‌افزار هوش مصنوعی کرده‌اند. این نرم‌افزار توسط شرکت “اکسون”، که در تولید دوربین‌های بدنی و تفنگ‌های شوک‌دهنده پیشتاز است، توسعه داده شده است. اکسون گفته است که این برنامه می‌تواند به افسران کمک کند تا گزارش‌های دقیق‌تر و سریع‌تری تهیه کنند. اما با افزایش استفاده از این ابزارها، برخی کارشناسان نگران هستند که نقش هوش مصنوعی در سیستم عدالت کیفری بیش از حد بزرگ شود.
اندرو فرگوسن استاد حقوق کیفری دانشگاه واشنگتن آمریکا، که اولین مقاله علمی حقوقی درباره گزارش‌های پلیسی با کمک هوش مصنوعی را نوشته، می‌گوید: «ما فراموش می‌کنیم که این اسناد نقش بسیار مرکزی در تصمیماتی دارند که زندگی افراد را تغییر می‌دهند.»
فرگوسن انتظار دارد این مقاله سال آینده منتشر شود.
گزارش‌های پلیس در کانون کار پلیسی قرار دارند. از مستند سازی جزئیات قتل‌های پیچیده گرفته تا ثبت اطلاعات پایه درباره دوچرخه‌های دزدی،
فرگوسن گفت: «در واقع، آن‌ها نوعی پایه و اساس سیستم عدالت کیفری هستند زیرا به‌عنوان یادبود رسمی آنچه اتفاق افتاده، کی و گاهی اوقات چرا، عمل می‌کنند.»
دادستان‌ها بر اساس این گزارش‌ها تصمیم‌گیری درباره اتهامات را انجام می‌دهند، قضات تصمیم‌گیری درباره وثیقه را انجام می‌دهند و افراد بر اساس آنچه در این برگه ابتدایی ثبت شده، حداقل تا حدی، درباره دفاع خود تصمیم‌گیری می‌کنند.
فرگوسن افزود: «اگر بخشی از این گزارش‌ها تحت تأثیر هوش مصنوعی قرار گیرد، نگرانی‌های واقعی درباره این که آیا می‌توانیم به آن اعتماد کنیم، ایجاد می‌شود.»
احتمال خطا یا تعصبی که توسط هوش مصنوعی ایجاد می‌شود، هنوز در حال بررسی است. اما او همچنین خاطرنشان کرد که رهبران اجرای قانون تمایل طبیعی برای بهبود کارایی هوش مصنوعی دارند.
شرکت اکسون ابزار “درفت وان” خود را به‌عنوان یک افزایش‌دهنده توانمندی‌ها بازاریابی می‌کند که برای بسیاری از ادارات پلیس که در جذب و نگه‌داری افسران با چالش مواجه‌اند، جذاب است. این بحران به گفته بسیاری از افراد در حوزه اجرای قانون با قتل “جرج فلوید” و اعتراضات بعدی تشدید شده است.
بنیان‌گذار اکسون، ریک اسمیت، در گزارش ماه اوت برای سهام‌داران گفت: «چرخش در حال انجام است، اما بسیاری از آن‌ها هنوز ۱۵ تا ۲۰ درصد کمتر از تعداد نیروی هدف خود هستند. بنابراین در اینجا است که ما این نوع بازخورد جادویی را می‌شنویم، جایی که آن‌ها [پلیس] می‌گویند، با استفاده از درفت وان، اگر ۲۰ تا ۲۵ درصد از روز افسران من را از نوشتن گزارش‌ها آزاد کند، این تقریباً مانند یک افزایش ۲۰ درصدی در قدرت نیروی من به یک‌باره است.»
رئیس پلیس شرق “پالو آلتو”، “جف لیو”، گفت که اداره‌اش از نگرانی‌های مربوط به کمبود نیروی انسانی مصون نیست. این اداره برای ۳۶ افسر متعهد، از جمله رئیس، بودجه‌بندی شده است، اما او در حال حاضر با کمبود هشت نفر مواجه است. او در نظر ندارد که “درفت وان” یک راه‌حل کامل باشد، اما امیدوار است که این ابزار به افسران کمک کند تا زمان بیشتری را در خیابان‌ها بگذرانند.
او گفت: «اگر این هوش مصنوعی بتواند سرعت گزارش‌ها را افزایش دهد بدون اینکه دقت را تحت تأثیر قرار دهد، فکر می‌کنم این یک پیروزی است.»
قرارداد شرق پالو آلتو نشان می‌دهد که هزینه استفاده از “درفت وان” برای هر دوربین بدنی حدود ۷۰ دلار در ماه یا حدود ۴۰,۰۰۰ دلار در سال برای شهر است.
لیو گفت که اگرچه این روزها گزارش‌های زیادی نمی‌نویسد، اما از “چت جی‌پی‌تی” برای نوشتن پست‌های رسانه‌های اجتماعی و حتی نامه‌های تسلیت استفاده می‌کند و سپس آن‌ها را با ادبیات خود شخصی‌سازی می‌کند. او گفت که کار با این چت‌بات هوش مصنوعی محبوب او را بیشتر به استفاده از “درفت وان” متمایل کرده است. “درفت وان” از همان هوش مصنوعی زیرساختی “چت جی‌پی‌تی” استفاده می‌کند، اما داده‌های مربوط به این اداره در یک سرویس ابری امن دولتی که توسط مایکروسافت توسعه داده شده، ذخیره می‌شود.
اکسون تنها شرکتی نیست که این خدمات را ارائه می‌دهد. “ترولیئو” – شرکتی که از هوش مصنوعی برای تحلیل مقادیر زیادی از تصاویر دوربین‌های بدنی استفاده می‌کند تا مطمئن شود که افسران به‌طور حرفه‌ای عمل می‌کنند – برنامه مشابهی برای نوشتن گزارش ارائه می‌دهد، اما به‌طور گسترده‌ای به بازار عرضه نشده و به‌کار گرفته نشده است.
در شهرستان “سانتا کلارا” نزدیک، “ایان وایت”، کاپیتان پلیس “کمپبل”، گفت که در ماه اول آزمایش “درفت وان” در اداره‌اش، افسران اظهار کردند که این ابزار حدود ۵۰ ساعت در مجموع برای آن‌ها صرفه‌جویی کرده است. اداره پلیس “فورت کالینز” در کلرادو نیز دریافت که به‌طور میانگین، گزارش‌های نوشته شده با “درفت وان” در هشت دقیقه تهیه می‌شوند، در حالی که گزارش‌های نوشته شده بدون استفاده از این نرم‌افزار ۲۳ دقیقه زمان می‌بردند.
اما اولین مطالعه مستقل درباره نرم‌افزار “درفت وان” که این هفته در “ژورنال جرم‌شناسی تجربی” منتشر شد، زمان صرفه‌جویی شده‌ای که وایت و دیگران گزارش کرده بودند را تأیید نکرد. محققان دانشگاه کارولینای جنوبی در سال گذشته یک آزمایش کنترل شده تصادفی با یک اداره پلیس نیوهمپشایر انجام دادند و دریافتند که افسرانی که از “درفت وان” استفاده کردند، به‌طور قابل توجهی سریع‌تر از افسران گروه کنترل گزارش‌ها را ننوشته‌اند.
“ایان آدامز”، استاد کمک‌درس که رهبری این مطالعه را بر عهده داشت، گفت که هنوز نمی‌تواند نتیجه‌گیری کند که چرا صرفه‌جویی در زمان وجود نداشت – او و همکارانش هنوز در حال بررسی این موضوع هستند – اما گفت که نتایج او را شگفت‌زده کرده است. او همچنین نسبت به وزن دادن بیش از حد به یافته‌هایش هشدار داد: «این مطالعه در یک اداره و درباره یک نتیجه در یک زمان خاص است.»
تیم او هنوز در حال تحقیق درباره این است که آیا ممکن است مزایای دیگری مانند دقت یا کامل بودن وجود داشته باشد. او گفت: «اگر تکنولوژی مانند ‘درفت وان’ می‌تواند گزارش‌های بهتری بنویسد، شاید این گزارش‌ها کمتر برای ویرایش یا بازنگری ارسال شوند و در نتیجه ممکن است صرفه‌جویی‌های سیستماتیک را مشاهده کنیم.»
وندی ونگاس در شرق “پالو آلتو” گفت که این برنامه به او کمک کرده است تا بر مشکل ننوشتن [گزارش‌ها] غلبه کند، به‌ویژه پس از یک روز طولانی کاری شامل گشت زنی. او تنها با فشردن دکمه “درفت وان” روی کامپیوترش، می‌تواند داستانی بر اساس متن صوتی فیلم دوربین بدنی‌اش را در عرض چند ثانیه دریافت کند.
او گفت: «وقتی نمی‌دانی چه کلماتی را می‌خواهی بنویسی، و بعد فقط نگاهی می‌کنی و می‌بینی، محتوای متن دقیقاً چیزی است که فکر می‌کردی. این بهترین حس ممکن است.»
درفت وان همچنین نحوه کار او در میدان را تغییر داده است. چون گزارش بر اساس متن صوتی است، ونگاس گفت که عمداً در حین یک حادثه درباره آنچه در حال وقوع است صحبت می‌کند.
او گفت: «من می‌گویم، ‘آیا دیدی؟ آینه شکسته است.’ آیا دیدی؟ چیزهایی روی زمین است. چاقو، چاقوی خونی، روی زمین است.»
یک طراح محصول در اکسون، “نوح اسپیتزر-ویلیامز”، گفت که این یکی از شگفت‌انگیزترین و جذاب‌ترین اثرات جانبی نرم‌افزار است: این ابزار افسران را تشویق می‌کند تا به‌طور کلی کلامی‌تر باشند و حتی در میکروفن دوربین‌هایشان صحبت کنند تا زمینه‌ای فراهم کنند – مانند وضعیت آزادی مشروط یک فرد یا اینکه آیا قبلاً سلاحی گزارش شده است قبل از رسیدن به صحنه – به‌طوری که متن صوتی شامل جزئیات کلیدی باشد که “درفت وان” در گزارش قرار می‌دهد.
اسپیتزر-ویلیامز گفت: «در حین تعامل، افسر سوالات بیشتری می‌پرسد. آن‌ها جملاتی مانند ‘خیلی خوب، جیمی. شما به من اجازه می‌دهید که کوله‌پشتی‌تان را بازرسی کنم’ را تکرار می‌کنند.»
اسپیتزر-ویلیامز گفت که این همچنین به روابط جامعه کمک می‌کند زیرا افسران توضیح می‌دهند که چه کار می‌کنند و چرا.
اما تحقیقات اتحادیه آزادی‌های مدنی آمریکا نشان می‌دهد که نحوه روایت‌گری لحظه‌ای افسران نیز می‌تواند برای دستکاری شواهد مورد استفاده قرار گیرد. یکی از مثال‌های رایج این است که افسران فریاد می‌زنند «متوقف شوید، مقاومت نکنید» تا استفاده از زور را توجیه کنند، حتی وقتی که فرد در حال همکاری است. اسپیتزر-ویلیامز از اکسون گفت که او باور ندارد درفت وان این نگرانی را تشدید کند.
اسپیتزر-ویلیامز همچنین به یک مطالعه اکسون اشاره کرد که نشان داد گزارش‌های نوشته شده با این نرم‌افزار به طور کلی از زبانی کمتر متعصبانه نسبت به گزارش‌های نوشته شده توسط افسران استفاده می‌کنند.
در یک اتاق کنفرانس در اداره پلیس شرق پالو آلتو، ونگاس از گزارش تولید شده توسط هوش مصنوعی‌اش خواند: «۲۳ سپتامبر ۲۰۲۴، در حدود ساعت ۱۰:۴۹، من، افسر ونگاس، به یک تماس خدماتی مربوط به یک نوجوان و یک مزاحمت خانگی پاسخ دادم.»
او گفت که این برنامه یک پیش‌نویس اولیه خوب تولید کرده است، اما برخی محدودیت‌ها وجود دارد. در این مرحله، “درفت وان” تنها به زبان انگلیسی تسلط دارد و به همین دلیل برخی چیزها را اشتباه فهمیده است، مانند اینکه چه کسی صحبت می‌کند و چه کسی با چه کسی رابطه دارد.
برخی در بخش عدالت کیفری گفتند که این اشتباهات به ظاهر کوچک، سوالات بزرگ‌تری درباره مالکیت و نویسندگی را مطرح می‌کنند که می‌تواند در فرآیند قضاوت بحرانی شود. دکتر متیو گورگیلیا، تحلیل‌گر سیاست در بنیاد مرزهای الکترونیکی، گفت که این گزارش‌ها «توانایی تقابل افسران را از بین می‌برند. زیرا اگر یک افسر در دادگاه دروغ بگوید، آن‌ها همیشه می‌توانند بگویند، خب، هوش مصنوعی این را نوشته است.»
وایت از اداره پلیس کمپبل که از ماه مه از این نرم‌افزار استفاده می‌کند، گفت که سیاست اداره‌اش اطمینان می‌دهد که افسران مسئولیت نوشتن گزارش‌های تولید شده توسط درفت وان را بر عهده بگیرند. او گفت حتی اگر یک افسر اشتباه کند و خطایی به گزارش راه یابد، این خطا باید به راحتی با بررسی چیزی که او آن را استاندارد طلایی شواهد می‌نامد، یعنی فیلم دوربین بدنی، قابل حل باشد.
وایت گفت: «در هر فعالیت انسانی خطا وجود دارد.» او معتقد است که هوش مصنوعی دقت را بیشتر می‌کند نه کمتر.
“ربکا باوم”، معاون دادستان منطقه‌ای شهرستان “سان متئو”، که با ادارات پلیس شرق “پالو آلتو” و “سان متئو” درباره تغییر به سمت گزارش‌های با کمک هوش مصنوعی گفتگو کرده است، گفت که دفترش نسبت به برنامه جدید خوش‌بین است اما با احتیاط عمل می‌کند. نگرانی اصلی او این است که دوربین‌های بدنی، و به‌ویژه صداهای ضبط شده آن‌ها، همه چیزهایی را که در حین یک حادثه اتفاق می‌افتد ضبط نمی‌کنند.
باوم گفت: «رفتار شاهدان، اگر کسی تحت تأثیر مواد مخدر یا الکل باشد، اگر جراحتی وجود داشته باشد. این‌ها از ضبط صوتی دوربین بدنی منتقل نمی‌شوند.»
او گفت که افسران باید در روند نوشتن این گزارش‌ها درگیر باقی بمانند تا چیزی را از قلم نیندازند – به‌ویژه اطلاعاتی که نشان می‌دهد یک فرد ممکن است بی‌گناه باشد، که وظیفه دادستان‌ها است که آن را افشا کنند.
از طرف خود، اکسون همچنین تعدادی از تدابیر ایمنی را در این برنامه قرار داده است تا اطمینان حاصل کند که یک افسر گزارش را به‌طور دقیق مرور می‌کند و از صحت آن مطمئن می‌شود.
در صفحه نمایش کامپیوتر، ونگاس نشان داد که چگونه هر پاراگراف از گزارش شامل نظراتی است که باید قبل از اینکه او بتواند گزارش را از “درفت وان” خارج کند و به سیستم اداره منتقل کند، حل و فصل شود.
در انتهای صفحه، ونگاس به یک جعبه اشاره کرد که او باید بر روی آن کلیک کند. این مرحله نهایی است که اسپیتزر-ویلیامز از اکسون گفت که “بدون شک مهم‌ترین” مرحله با توجه به عواقب احتمالی هر گزارش است.
وانگاس با صدای بلند خواند: «من تأیید می‌کنم که این گزارش با استفاده از ‘درفت وان’ از اکسون تولید شده است. و همچنین تأیید می‌کنم که این گزارش را به‌طور دقیق مشاهده کرده‌ام، هر ویرایش لازم را انجام داده‌ام و معتقدم که این گزارش نمایانگر دقیقی از خاطرات من از رویدادهای گزارش‌شده است. در صورت نیاز، آماده‌ام تا درباره دقت این گزارش شهادت دهم.»
