«Microsoft» تسحب روبوت الدردشة «Tay» لنشره رسائل عنصريّة
قامت شركة «مايكروسوفت» بإيقاف روبوت الدردشة التي أطلقت عليه اسم «Tay» بعد أقل من 24 ساعة على طرحه، وذلك بسبب تحوّل الروبوت إلى برنامج يبث رسائل الكراهية والعنصرية.
وكانت الشركة قد أطلقت «تاي»، وهو عبارة عن برنامج يُمثّل شخصية افتراضية لفتاة مراهقة يُمكن لها الدردشة مع المُستخدمين والإجابة على أسئلتهم. وقد طوّرت الشركة الروبوت بواسطة تقنية الذكاء الاصطناعي Artificial Intelligence وقالت أن “تاي” تستطيع أن تتعلّم وتُحسّن من أجوبتها تدريجيًا من خلال الدردشات التي تقوم بها.
لكن «تاي» تحوّلت إلى أداة لنشر العنصرية والكراهية، حيث بدأ حسابها الروبوتي على تويتر بنشر رسائل تُمجّد النازية وهتلر، وتُحرّض ضد السود والمُهاجرين وتدعو إلى التطهير العرقي.
ورغم أن الشركة قالت بأن المعلومات الأساسية التي بنت عليها «تاي» معارفها جاءت من خلال المعلومات العامّة المتوفرة على الويب، وبعض المحتويات الأخرى التي زودتها بها مايكروسوفت، إلّا أن الشركة ذكرت أيضًا بأن “تاي” تطوّر معارفها من خلال دردشتها مع الآخرين، ويبدو أن هذه النقطة بالذات أتاحت التلاعب بمعلوماتها عبر تلقينها الأفكار العنصرية من خلال بعض المُستخدمين.
وقد سارعت «مايكروسوفت» إلى حذف التغريدات المُسيئة التي نشرتها «تاي» وتعطيلها عن تقديم الإجابات ريثما تقوم بتعديل خوارزمياتها قبل إعادتها بشكلٍ قد يُضعف إمكانية التلاعب بها.
