مطالعه موردی: اخلاق در هوش مصنوعی؛ تحلیل داده‌های بخش عمومی

این مطالعه موردی در دانشگاه پرینستون آمریکا انجام گرفته است و موضوع آن «اخلاق» در هوش مصنوعی و چالش‌های اساسی آن است.

Princeton-AI-Ethics-Case-Study-6

مقدمه

شهر New Leviathan در میانه غربی ایالات متحده که زمانی پررونق بود، در دهه‌های اخیر با مشکلات عمده‌ای از جمله دِصنعت‌زدایی، افزایش تنش‌های نژادی و کسری بودجه روبرو شده است. با افزایش جرایم خشونت‌آمیز، شهردار Thalia Hobbes به دنبال راهکاری برای کاهش این مشکلات و بازگرداندن آرامش به شهر است. یکی از راهکارهای پیشنهاد شده استفاده از تحلیل داده‌های بزرگ و هوش مصنوعی برای پیش‌بینی و کاهش جرم و جنایت است. این مطالعه موردی به بررسی استفاده از این تکنولوژی‌ها و چالش‌ها و مسائل اخلاقی مرتبط با آن می‌پردازد.

زمینه

در اواخر قرن گذشته، بسیاری از ساکنان شهر New Leviathan که توانایی مهاجرت داشتند، به شهرهای ثروتمندتر منطقه نقل مکان کردند. این مهاجرت شهری باعث وخامت مالی شهر شد و منجر به کاهش شدید بودجه مدارس، نیروی انتظامی و سایر خدمات عمومی ضروری گردید. شرایط اجتماعی رو به زوال بود و نرخ جرایم خشونت‌آمیز افزایش یافت. این وضعیت به نقطه اوج خود رسید زمانی که در سال 2014، یک افسر پلیس یک دانش‌آموز دبیرستانی غیرمسلح را به ضرب گلوله کشت. این حادثه به اعتراضات گسترده و خشونت‌آمیز انجامید که توجه ملی را به مشکلات دوگانه جرم و نیروی انتظامی در New Leviathan جلب کرد.

تلاش‌های شهردار Hobbes

شهردار Hobbes، که تمام عمر خود را در New Leviathan گذرانده و علاقه زیادی به شهر و ساکنان آن داشت، در تلاش بود تا راه‌حل‌هایی مؤثر و کارآمد برای کاهش جرم و جنایت پیدا کند. اما بودجه محدود و شرایط سیاسی پرتلاطم شهر، او را در تصمیم‌گیری محدود کرده بود. او نمی‌خواست به طور مستقیم وارد مسائل حساس مربوط به نیروی انتظامی شود، بنابراین به دنبال راه‌حل‌های خلاقانه بود که به نظر نرسد که به نیروی انتظامی حمله می‌کند.

پیشنهاد همکاری با WCG

در یک شب، شهردار Hobbes در یک مهمانی شام با دوستان کودکی خود ملاقات کرد. یکی از مهمانان، Charles Prince، به تازگی مدیرعامل شرکت معتبر مشاوره مدیریتی Wales Consulting Group (WCG) شده بود. Prince پیشنهاد کرد که گروه تحلیل داده‌های عمومی WCG می‌تواند به حل مشکلات جرم و جنایت در New Leviathan کمک کند. این گروه با استفاده از تکنولوژی‌های نوین می‌تواند به نهادهای ملی، ایالتی و محلی کمک کند تا خدمات موجود را بهبود بخشیده و خدمات جدیدی ارائه دهند. شهردار Hobbes از این ایده استقبال کرد اما نگران هزینه‌ها و مسائل حریم خصوصی بود.

بررسی پروژه توسط WCG

WCG پروتکل‌های سختگیرانه‌ای برای پذیرش پروژه‌های جدید داشت. این پروتکل‌ها شامل بررسی سه مجموعه سوال بود:

1. مسئله مورد نظر چیست و آیا می‌توان از رویکرد مبتنی بر داده برای حل آن استفاده کرد؟
2. آیا WCG می‌تواند ماموریت پیشنهادی را انجام دهد و چه توانمندی‌های تکنولوژیکی مورد نیاز است؟
3. آیا WCG با هدف ماموریت موافق است؟ آیا افراد در حال کار بر روی پروژه از آن حمایت می‌کنند؟

در مورد New Leviathan، WCG توانست به هر سه سوال پاسخ مثبت دهد و تصمیم گرفت که خدمات خود را به صورت رایگان به شهر ارائه دهد. این اقدام، که برای WCG بسیار نادر بود، به شهردار Hobbes کمک بزرگی بود زیرا خدمات WCG به طور معمول برای بودجه محدود شهری بسیار گران بود.

استفاده از تحلیل شبکه اجتماعی (SNA)

مشاوران WCG توضیح دادند که این شرکت تیمی متشکل از مهندسان، تحلیل‌گران و وکلا را به New Leviathan اعزام می‌کند تا نرم‌افزاری برای ردیابی ارتباطات افراد با مجرمان و تحلیل حساب‌های رسانه‌های اجتماعی توسعه دهند. این نرم‌افزار، که به “تحلیل شبکه اجتماعی” (SNA) معروف است، از داده‌های جمع‌آوری شده توسط نهادهای شهری استفاده می‌کرد و هدف آن این بود که به تحلیل‌گران انسانی در تصمیم‌گیری کمک کند. WCG هیچ‌گونه داده‌ای را جمع‌آوری، فروش یا تحلیل نمی‌کرد و هیچ داده‌ای را ذخیره نمی‌کرد. هدف این بود که تحلیل‌گران انسانی بتوانند با استفاده از مدل‌های پیشرفته هوش مصنوعی و یادگیری ماشین به کار خود ادامه دهند.

نتایج اولیه و تغییرات

برنامه اولیه با موفقیت نسبی در کاهش جرم و جنایت همراه بود. دو سال پس از شروع همکاری با WCG، آماری نشان داد که خشونت‌های مسلحانه و قتل‌ها به طور مختصر کاهش یافته‌اند. اما این روند نزولی به زودی متوقف شد و آمار جنایت به آرامی دوباره افزایش یافت. برخی از کارکنان پیشنهاد کردند که این ممکن است به دلیل سیاست‌های محافظه‌کارانه شهردار در استفاده از سیستم AI باشد. با نزدیک شدن انتخابات، شهردار Hobbes تصمیم گرفت رویکرد تهاجمی‌تری اتخاذ کند و به جای تمرکز بر قربانیان بالقوه، بر متخلفان بالقوه نیز تمرکز کند و نیروی انتظامی را نیز درگیر کند.

انتقادات و چالش‌های اخلاقی

1. محرمانگی و حریم خصوصی: شهردار Hobbes تصمیم به استفاده از خدمات WCG بدون مشورت با شهروندان یا مقامات دیگر گرفت. این اقدام، هرچند قانونی، اما به دلیل عدم شفافیت و مشورت با شهروندان، مورد انتقاد قرار گرفت. بسیاری از شهروندان احساس کردند که حقوق حریم خصوصی آنها نادیده گرفته شده است.
2. ناعدالتی و بی‌اثری: بسیاری از شهروندان نگرانی‌هایی در مورد تأثیر ناعادلانه برنامه بر جوامع فقیر و اقلیت داشتند. تحقیقات نشان داده بود که برنامه‌های پیش‌بینی جرم ممکن است تأثیر منفی بیشتری بر این جوامع داشته باشد.
3. نقض حقوق مدنی و خودمختاری: سازمان‌های حقوق مدنی مانند ACLU اعتراض کردند که استفاده از الگوریتم‌ها برای تعیین افراد درگیر در جرم، اصول قانونی اساسی آمریکا را نقض می‌کند و افراد را بر اساس احتمالات آماری به جای شواهد واقعی هدف قرار می‌دهد.

پاسخ شهردار Hobbes و WCG

شهردار Hobbes ادعا کرد که استفاده از سیستم AI برای امنیت شهر ضروری بود و کاهش موقت در جرایم را به عنوان شاهدی بر موفقیت برنامه معرفی کرد. او همچنین از تصمیم خود برای عدم اطلاع‌رسانی عمومی دفاع کرد و اظهار داشت که در شرایط حساس سیاسی آن زمان، افشای برنامه می‌توانست به نارضایتی عمومی و تلاش برای دور زدن الگوریتم‌ها منجر شود.

WCG نیز از مشارکت خود در پروژه دفاع کرد و اعلام کرد که تمام تلاش‌ها برای حفظ حریم خصوصی افراد انجام شده است. نمایندگان WCG اظهار داشتند که شرکت به طور منظم پروژه‌ها را از نظر اخلاقی بررسی می‌کند و پروژه New Leviathan تمامی این بررسی‌ها را با موفقیت پشت سر گذاشته است.

سوالات و مباحث اخلاقی

1. آیا تصمیم شهردار Hobbes برای استفاده از خدمات WCG بدون مشورت با شهروندان یا مقامات دیگر موجه بود؟ اگر نه، چگونه باید به این موضوع می‌پرداخت؟
2. چگونه باید منافع عمومی از امنیت با حقوق فردی حریم خصوصی متوازن شود؟
3. آیا استفاده از تحلیل شبکه اجتماعی (SNA) برای پیش‌بینی جرم و جنایت می‌تواند به تبعیض ناعادلانه منجر شود؟
4. چگونه می‌توان از سوء استفاده از داده‌های جمع‌آوری شده جلوگیری کرد و اطمینان حاصل کرد که حریم خصوصی افراد حفظ می‌شود؟

نتیجه‌گیری

این مطالعه موردی نشان‌دهنده اهمیت در نظر گرفتن مسائل اخلاقی در توسعه و استفاده از سیستم‌های هوش مصنوعی در حوزه اجرای قانون است. استفاده از AI می‌تواند به بهبود امنیت و کاهش جرم و جنایت کمک کند، اما باید با احتیاط و با در نظر گرفتن حقوق حریم خصوصی و عدالت اجتماعی استفاده شود. برای حل این مسائل، باید نگرانی‌های شهروندان مورد توجه قرار گیرد و راه‌حل‌های مناسبی برای بهبود شفافیت، کاهش نابرابری و افزایش عدالت ارائه شود.

سوالات برای بحث

1. آیا تصمیم شهردار Hobbes برای استفاده از خدمات WCG بدون مشورت با شهروندان یا مقامات دیگر موجه بود؟ اگر نه، چگونه باید به این موضوع می‌پرداخت؟
2. چگونه باید منافع عمومی از امنیت با حقوق فردی حریم خصوصی متوازن شود؟
3. آیا استفاده از تحلیل شبکه اجتماعی (SNA) برای پیش‌بینی جرم و جنایت می‌تواند به تبعیض ناعادلانه منجر شود؟
4. چگونه می‌توان از سوء استفاده از داده‌های جمع‌آوری شده جلوگیری کرد و اطمینان حاصل کرد که حریم خصوصی افراد حفظ می‌شود؟

این سوالات و مباحث می‌توانند به درک بهتر مسائل اخلاقی و اجتماعی مرتبط با استفاده از هوش مصنوعی در سیستم‌های اجرای قانون کمک کنند و راه‌حل‌های مناسبی برای بهبود و بهینه‌سازی این سیستم‌ها ارائه دهند.