توئیتر برای تشخیص عیب «سوگیری نژادی» در الگوریتمش مبلغ ۳۵۰۰ دلار جایزه تعیین کرد

به گزارش گروه فناوری خبرگزاری آنا، شرکت توئیتر اعلام کرد به هکرها و برنامه‌نویسانی که بتوانند عیب سوگیری در الگوریتم‌های موجود در این شبکه اجتماعی را کشف و برطرف کنند تا ۳۵۰۰ دلار جایزه خواهد داد.

این تصمیم در پی آن اعلام می‌شود که شماری از محققان دریافتند الگوریتم‌ توئیتر افراد سیاهپوست را در شماری از توییت‌ها نادیده می‌گیرد.

بیانیه جدید توئیتر بخشی از تلاش گسترده‌تر در حوزه فناوری‌های جدید است که با هدف اطمینان از اخلاقی بودن کاربردهای هوش مصنوعی صورت می‌گیرد. توییتر در وبلاگ رسمی خود گفته است این مسابقه با هدف شناسایی «آسیب‌های احتمالی الگوریتم‌های به کار رفته، فراتر از آنچه پیش‌تر خودمان شناسایی کرده‌ایم» انجام می‌شود.

استفاده از الگوریتم‌های مبتنی بر هوش مصنوعی برای کارکرد بهتر شبکه‌های اجتماعی روشی رایج به شمار می‌رود، با این حال به علت اینکه یادگیری خودکار در ماشین‌ها همواره با درصدی از سوگیری ناخواسته همراه است، عیب‌هایی بروز می‌کند که الزاما خواسته مدیران این شرکت‌ها نیست.

مشکل کنونی در الگوریتم زمانی علنی شد که کاربری در توییتر پی برد اگر یک تصویر بزرگ شامل یک مرد سیاهپوست در بالا و یک مرد سفیدپوست در پایین را در حساب خود منتشر کند، توئیتر در ‌پیش‌نمایش کوچک عکس، به صورت خودکار مرد سفیدپوست را اولویت می‌دهد. حتی زمانی که ترتیب این دو عکس نیز عوض شدند بار دیگر مرد سفید پوست ترجیح داده شد. این مسئله باعث تقویت این فرضیه شده بود که الگوریتم هوشمند افراد با پوست روشن را اولویت می‌دهد.

در ماه مه گذشته نتایج یک مطالعه بر عملکرد سامانه یادگیری خودکار ماشین‌ها نشان می‌داد توییتر ۴ درصد به نفع سفیدپوستان و ۸ درصد نسبت به زنان سوگیری دارد.

توئیتر با انتشار عمومی کد کامپیوتری الگوریتم خود از همه علاقه‌مندان خواسته‌ است دریابند چگونه می‌توان این کدها را بهینه کرد و مانع از بروز عیب‌هایی نظیر کلیشه‌انگاری و یا قضاوت بر اساس گروه قومی و نژادی شد.

رومان چوهدری، مدیر تیم اخلاق یادگیری ماشین توییتر، در توئیتی نوشت که این شرکت مسابقه را برگزار می‌کند و به برندگان جایزه می‌دهد چرا که معتقد است «افراد باید به دلیل شناسایی این مسائل پاداش بگیرند و ما نمی‌توانیم این چالش‌ها را به تنهایی حل کنیم.»

برندگان جوایز نقدی بین ۵۰۰ تا ۳۵۰۰ دلار دریافت خواهند کرد و از آنان دعوت خواهد شد تا نتایج کارشان را ۸ اوت در کارگاهی که در حاشیه «دف کان» (DEF CON) بزرگترین کنفرانس سالانه هکرها در لاس‌وگاس آمریکا برگزار خواهد شد ارائه دهند.

انتهای پیام/