این مطالعه موردی در دانشگاه پرینستون آمریکا انجام گرفته است و موضوع آن «اخلاق» در هوش مصنوعی و چالش‌های اساسی آن است.
Princeton-AI-Ethics-Case-Study-2مقدمه
توسعه سیستم‌های هوش مصنوعی (AI) و استقرار آنها در جامعه باعث بروز سوالات و دلمشغولی‌های اخلاقی شده است. این مطالعه موردی تخیلی به بررسی این مسائل در تقاطع AI و اخلاق می‌پردازد. در این مطالعه موردی، به بررسی یک اپلیکیشن به نام Epimetheus پرداخته می‌شود که برای شناسایی و طبقه‌بندی صداها توسعه یافته است. این مطالعه به چالش‌ها، دستاوردها و مسائل اخلاقی مرتبط با این اپلیکیشن می‌پردازد.
شناسایی صوتی پویا: مقدمه‌ای بر تکنولوژی
شناسایی صوتی پویا، که به آن “پرسش از طریق نمونه” نیز گفته می‌شود، اخیراً به عنوان روشی موفق برای شناسایی موسیقی از طریق نمونه‌های کوتاه صوتی ضبط شده توسط میکروفون شناخته شده است. الگوریتم‌های نسل اول این تکنولوژی می‌توانستند امضاهای صوتی منحصربه‌فرد را در یک صدا شناسایی کرده و با منبع احتمالی یا صدای معادل ذخیره شده در یک پایگاه داده بزرگ مطابقت دهند. این اپلیکیشن‌ها که ابتدا برای شناسایی موسیقی استفاده می‌شدند، بسیار مورد توجه قرار گرفتند و به کاربران اجازه می‌دادند تا عنوان یک آهنگ و هنرمند اجرا کننده آن را شناسایی کنند.
توسعه و کاربردهای جدید
یک شرکت تحقیق و توسعه مستقر در لس آنجلس به این نتیجه رسید که تکنولوژی‌های زیربنایی شناسایی صوتی می‌توانند کاربردهای عمومی‌تری نیز داشته باشند و شروع به بررسی استفاده‌های جدید از این الگوریتم‌ها کرد. نتیجه این تحقیقات، اپلیکیشن Epimetheus بود.
Epimetheus به طور خاص در شناسایی موسیقی، تبلیغات و صداهای انسانی بسیار ماهر بود. برخلاف اپلیکیشن‌های قبلی که از شناسایی صوتی پویا استفاده می‌کردند، Epimetheus توانایی تشخیص سیگنال‌های صوتی ظریف و غربالگری نویزهای محیطی را داشت و می‌توانست پدیده‌های طبیعی مانند تغییرات جزر و مد را به دقت شناسایی کند. این قابلیت برای محققان علمی که می‌توانستند از Epimetheus به عنوان ابزاری برای ردیابی تغییرات اکولوژیکی در مکان‌های دورافتاده استفاده کنند، بسیار مفید بود. همچنین این اپلیکیشن در بین دانش‌آموزان و علاقمندان به موضوعات علمی بسیار محبوب بود.
ویژگی‌ها و قابلیت‌ها
Epimetheus علاوه بر شناسایی صداها با دقت بالا، از یک الگوریتم یادگیری ماشینی نیز استفاده می‌کند که با ورودی‌های جدید سازگار شده و اطلاعات مفیدی درباره صداهای پردازش شده به کاربران ارائه می‌دهد. به عنوان مثال، این اپلیکیشن می‌تواند اطلاعات شخصی درباره افرادی که صحبت می‌کنند، لینک‌های مرتبط به محصولات تبلیغ شده در تلویزیون، مقالات دایره‌المعارفی درباره صدای پرندگان و دیگر منابع مرتبط را شناسایی و ارائه کند.
چالش‌ها و مسائل اخلاقی
تیم تحقیقاتی پشت Epimetheus برای جلب توجه شرکت‌های بزرگ تکنولوژی تلاش کردند و دمویی از قابلیت‌های این اپلیکیشن را ارائه دادند. یکی از این شرکت‌ها، Cronus Corp. بود که علاقه زیادی به خرید Epimetheus داشت. اما قبل از اینکه مذاکرات به مرحله نهایی برسد، وکلای Cronus Corp. از تیم تحقیقاتی خواستند تا اثبات کنند که ریسک نتایج مضر غیرمنتظره را به حداقل رسانده‌اند.
یکی از مشکلات زمانی رخ داد که یکی از تست‌کنندگان اپلیکیشن، Sybel، صدای خود را در سیستم آزمایش کرد. Sybel که به تازگی تغییر جنسیت داده و خود را به عنوان یک زن شناسایی می‌کرد، توسط Epimetheus به عنوان مرد شناسایی شد و اطلاعاتی درباره سابقه او به نمایش گذاشت. این مسئله نشان داد که ممکن است اپلیکیشن نتواند کاربران ترنس‌جندر را به درستی شناسایی کند و این امر می‌تواند باعث آسیب‌های جدی برای آنها شود.
بررسی و راهکارهای پیشنهادی
تیم تحقیقاتی برای حل این مشکل چندین کارگاه و گروه‌های متمرکز با متخصصان مختلف برگزار کردند تا راه‌حل‌های ممکن را بررسی کنند. در این بررسی‌ها، چندین نکته کلیدی شناسایی شد:
- حساسیت فرهنگی: برخی متخصصان به این نکته اشاره کردند که شناسایی و برچسب‌گذاری صداها در Epimetheus به خوبی بر اساس هنجارهای فرهنگی آمریکایی و ظرایف زبان انگلیسی آموزش داده شده است، اما این آموزش‌ها ممکن است به جوامع غیر آنگلوفون و فرهنگ‌های مختلف منتقل نشود.
- آسیب‌های ناشی از برچسب‌گذاری: علاوه بر اینکه برچسب‌گذاری اشتباه می‌تواند باعث آزردگی شود، عمل دسته‌بندی و برچسب‌گذاری به خودی خود نیز می‌تواند زیان‌آور باشد. هر مورد از برچسب‌گذاری ممکن است کوچک به نظر برسد، اما تصمیمات برنامه‌نویسی درباره نحوه ایجاد تمایز می‌تواند بر ارزش‌ها و درک فرهنگی جامعه تأثیر بگذارد.
- استفاده‌های پیش‌بینی نشده: اگرچه نیت مهندسان Epimetheus ایجاد چیزی بود که به نفع جامعه باشد، اما ممکن است این تکنولوژی توسط افراد بداندیش برای اهداف مخرب استفاده شود.
اقدامات اصلاحی
تیم تحقیقاتی برای حل این مشکلات تصمیم گرفت تا برخی از دسته‌های برچسب‌گذاری که نتایج نامطلوب برای گروه‌های به حاشیه رانده شده داشت را حذف کند. به عنوان مثال، Epimetheus دیگر بین جنسیت‌ها در شناسایی صداها تمایز قائل نمی‌شود. این راه‌حل موقت به نظر می‌رسید، اما می‌توانست مشکلات موجود را کاهش دهد.
سوالات اخلاقی برای بحث
1.چگونه می‌توان از نابرابری در نتایج شناسایی صوتی جلوگیری کرد؟
- آیا حذف شبکه اجتماعی به دلیل ناتوانی در دستیابی به اهدافش اقدام مناسبی است یا تعدیل بیشتری باید اعمال شود؟
- آیا تغییر نقش Epimetheus از ارائه‌دهنده اطلاعات به راهنما و مشوق مسئله رضایت آگاهانه را تحت تأثیر قرار می‌دهد؟
- چه مسئولیت‌هایی در زمینه شفافیت داده‌ها و استفاده از اطلاعات حساس بر عهده Epimetheus است؟
- آیا تیم تحقیقاتی باید بر اساس خواسته‌های کاربران ویژگی‌های جدید را معرفی کند؟ چه ارزش‌های دیگری باید در تصمیم‌گیری‌های طراحی مورد توجه قرار گیرند؟
- چگونه می‌توان بین شفافیت الگوریتمی و اعتماد کاربران تعادل برقرار کرد؟
نتیجه‌گیری
در نتیجه، اپلیکیشن Epimetheus توانسته است بهبودهای قابل توجهی در شناسایی صوتی پویا ارائه دهد، اما همچنان با چالش‌های اخلاقی و اجتماعی مواجه است. تیم تحقیقاتی باید به نگرانی‌های کاربران و مسائل اخلاقی توجه کرده و راه‌حل‌های مناسبی برای بهبود شفافیت، کاهش نابرابری و افزایش تعامل مثبت کاربران بیابد. این مطالعه موردی نشان‌دهنده اهمیت در نظر گرفتن مسائل اخلاقی در توسعه و استفاده از سیستم‌های هوش مصنوعی در حوزه‌های مختلف است.
سوالات برای بحث
- چگونه می‌توان از نابرابری در نتایج شناسایی صوتی جلوگیری کرد و آیا تیم تحقیقاتی مسئولیت ویژه‌ای در قبال کاربران در معرض خطر دارد؟
- آیا حذف شبکه اجتماعی به دلیل ناتوانی در دستیابی به اهدافش اقدام مناسبی است یا تعدیل بیشتری باید اعمال شود؟ چه مزایا و معایبی دارد؟
- آیا تغییر نقش Epimetheus از ارائه‌دهنده اطلاعات به راهنما و مشوق مسئله رضایت آگاهانه را تحت تأثیر قرار می‌دهد؟
- چه مسئولیت‌هایی در زمینه شفافیت داده‌ها و استفاده از اطلاعات حساس بر عهده Epimetheus است؟
- آیا تیم تحقیقاتی باید بر اساس خواسته‌های کاربران ویژگی‌های جدید را معرفی کند؟ چه ارزش‌های دیگری باید در تصمیم‌گیری‌های طراحی مورد توجه قرار گیرند؟
- چگونه می‌توان بین شفافیت الگوریتمی و اعتماد کاربران تعادل برقرار کرد؟
با توجه به این سوالات و مباحث، می‌توان نتیجه گرفت که توسعه و استفاده از سیستم‌های هوش مصنوعی نیازمند در نظر گرفتن مسائل اخلاقی و اجتماعی و ایجاد تعادل بین منافع فردی و اجتماعی است.