اشتباه مهلک نرم افزار تشخیص چهره آمازون

به گزارش اقتصاد نیوز و به نقل از زومیت، نرم‌افزار بحث‌برانگیز تشخیص چهره‌ی آمازون، موسوم به Rekognition بیش از ۲۰ نفر از اعضای کنگره را به‌عنوان مجرمانی که باید دستگیر شوند، شناسایی کرد.

اتحادیه‌ی آزادی‌های مدنی آمریکا (ACLU) کالیفرنیا نرم‌افزار تشخیص چهره‌ آمازون را در شناسایی ۵۳۵ نفر از اعضای کنگره به کار گرفت. در بررسی انجام‌شده توسط این اتحادیه، ۲۵ هزار عکس وجود داشت که با اهدافی خاص گرفته شده بودند و عکس‌هایی از افراد مظنون و مشکوک هم در بین آنها بود. نتایج آزمون ACLU نشان داد که از بین ۵۳۵ نفر اعضای کنگره، نرم‌افزار ۲۸ نفر را مجرم مظنون تشخیص داده است. شایان ذکر است این تست برای ACLU تنها ۱۲.۳۳ دلار هزینه در برداشت.

از بین عکس‌هایی که نرم‌افزار باید تشخیص می‌داد، در مجموع ۲۸ نفر از اعضای کنگره به اشتباه شناسایی شدند و نرم‌افزار اعلام کرد که این ۲۸ نفر مشکوک و مجرم شناسایی شده‌اند. از بین این تعداد، ۱۱ نفر از اعضای کنگره، سفید‌پوست نبودند. براساس بررسی‌های انجام‌شده، فناوری تشخیص چهره ممکن است دقت کمتری در شناسایی افرادی با پوست تیره و زنان داشته باشد. در کل، با توجه به نتایج به‌دست‌آمده، نرم‌افزار تشخیص چهره‌ی آمازون در شناسایی افراد سفیدپوست ۵ درصد خطا و در شناسایی افراد با پوست‌های رنگی، ۳۹ درصد خطا را نشان می‌دهد. در میان افرادی که به اشتباه شناسایی شده‌اند، ۶ نفر اعضای اصلی کنگره سیاه‌پوستان (Congressional Black Caucus)‌ بودند که ماه ژوئن پس از انتشار اسناد ACLU به‌صورت داخلی، نامه‌ی سرگشاده‌ای به جف بزوس مدیرعامل آمازون نوشتند و نگرانی خود را در مورد استفاده از نرم‌افزار Rekognition توسط پلیس مطرح کردند. 

Amazon در تلاش است تا بتواند سازمان‌های مجری قوانین را به استفاده از نرم‌افزار تشخیص‌ چهره‌یRekognition تشویق کرده و آنها متقاعد نماید برای تشخیص هویت از این نرم‌افزار استفاده کنند. در پی تلاش‌های آمازون، اخیرا پلیس اورلاندو تصمیم گرفته که فناوری تشخیص چهره‌ی آمازون را به‌کار گیرد. در پست وبلاگی، ACLU در کالیفرنیای شمالی در مورد تبعات سنگین تشخیص چهره‌ی اشتباه توضیحاتی مطرح کرد. گاهی تشخیص‌ چهره نادرست می‌تواند تبعات سنگین و مرگباری برای افراد داشته باشد. این موضوع خصوصا برای شهروندانی که پوست‌های رنگی دارند، بسیار نگران‌کننده است. اتحادیه‌ی ACLU معتقد است:«اگر مجریان قانون، از فناوری تشخیص چهره آمازون استفاده کنند و سیستم به اشتباه فردی را مظنون به حمل اسلحه شناسایی کند، این اشتباه سیستمی می‌تواند برای آن فرد تبعات سنگینی در برداشته باشد.»

آمازون نیز نسبت به نتیجه‌گیری اتحادیه‌ی آزادی‌های مدنی آمریکا سکوت نکرد و در بیانیه‌ای در مورد نرم‌افزار تشخیص چهره توضیح داد و اضافه نمود که به‌دنبال راهکارهایی برای بهبود و توسعه‌ی فرآیند تشخیص چهره است. آمازون به سازمان‌های مجری قانون که از نرم‌افزار تشخیص چهره آمازون استفاده می‌کنند، اعلام کرد که هنگام تصمیم‌گیری در مورد مظنونان، خطای ۵ درصدی سیستم باید در نظر گرفته شود. آمازون معتقد است ضریب خطای سیستم تشخیص چهره ۵ درصد است و روی صحت نتایج ۹۵ درصدی می‌توان اعتماد کرد. هرچند در اجرای قوانین، نمی‌تواند چنین درصدهایی را طبق قانون و مقررات در نظر بگیرد و اساس چنین الزامات قانونی وجود ندارد تا سازما‌ن‌های مجری قانون بتوانند چنین رویکردهای را در پیش بگیرند. از سوی دیگر طبق گزارش‌های منتشرشده از سوی پلیس جنوب ولز در انگلستان، میزان دقت سیستم ۹۰ درصد است. اما آمازون در بیانیه‌ای اعلام کرد:«تاکنون کاربران بسیاری از قابلیت‌ها و توانایی‌‌های تجزیه‌وتحلیل تصاویر و ویدئوها با کمک فناوری تشخیص چهره آمازون بهره‌مند شده‌اند. در شرایط مختلف اعم از جلوگیری از قاچاق انسان، قاچاق کودکان، سوء استفاده از کودکان، بازگرداندن کودکان گم‌شده به خانه‌هایشان، استفاده در برنامه‌های آموزشی و ... کاربرد داشته است. همچنین سازمان‌های امنیتی نیز برای احراز هویت چندعاملی، پیدا کردن تصاویر موردنظر، جلوگیری از سرقت بسته‌ها از آن استفاده می‌کنند. تجزیه‌وتحلیل تصاویر و ویدئوها می‌تواند هم به‌صورت عمومی و هم برای اجرای قانون کاربرد داشته باشد.نتایج آزمایش اخیری که توسط ACLU روی فناوری تشخیص چهره‌ی آمازون به‌نام Rekognition انجام شده است، به‌خوبی نشان می‌دهد که نرم‌افزار تشخیص چهره‌ی آمازون در محدوده‌ی مشخص‌شده و با توجه به ضریب خطای تعریف‌شده عملکرد درستی از خود نشان داده است. ما در تلاش هستیم آستانه‌ی اعتمادپذیری نرم‌افزار را بهبود بخشیم ولی در شرایط فعلی نیز، عملکرد سیستم، مطابق انتظاری که از آن می‌رفت بوده است. سیستم تشخیص چهره آمازون با دقت ۹۵ درصدی به شناسایی و تشخیص هویت می‌پردازد و حین استفاده از آن باید به خطای ۵ درصدی توجه کرد. هنگام استفاده از فناوری تشخیص چهره برای فعالیت‌های مربوط به اجرای قانون، آستانه‌ی اطمینان‌پذیری نرم‌افزار حداقل ۹۵ درصد یا بالاتر درنظر گرفته شده است که باید بدان توجه کرد.در نهایت، لازم به ذکر است که در موقعیت‌های واقعی، فناوری تشخیص چهره آمازون به کاربران کمک می‌کند تا با سرعت بیشتری بتوانند به بررسی گزینه‌های موردنظر خود و شناسایی فرد خاطی یا فردی که به‌دنبال آن هستند بپردازند. این نرم‌افزار برای یافتن قاچاقچیان انسان و کودکان گمشده و برای جلوگیری از جرم و جنایت می‌تواند بسیار مفید و موثر عمل کند و دایره‌ی جستجو را  محدودتر می‌کند که از این حیث بسیار قابل استفاده و کاربردی است.»