Yapay zekâlı sohbet robotlarının ortaya çıkışı, birtakım yalnız bireylerin dijital dünyada ‘arkadaş’ bulmalarına yol açtı. Fakat, kullanıcıların gerçekçi romantik partnerler yaratmalarına imkan tanıyan şahsileştirilmiş yazılımlar, kimi şahıslar tarafından istismar ediliyor. Yapay zekâ sohbet robotu uygulaması Replika’da kendilerine bayan sevgili karakterleri yaratan birtakım erkek kullanıcıların, onlara şiddet uyguladığı ortaya çıktı. Online tartışma platformu Reddit’teki itiraflara nazaran, kelam konusu kullanıcılar, sanal sevgililerine hakaret ve küfür ederek, duygusal tacizde bulunarak şiddet uyguluyor.
Köle üzere davranıyorlar
Platformun ücretsiz bir sürümü olmasına karşın, kullanıcılar sanal karakterleri daha insani hale getiren özellikleri açmak için yılda 60 dolar (2 bin 200 TL) ödüyor. Bu karakterler daha uzun hafızalı oluyor ve birkaç lisan konuşuyorlar. Uzmanlara nazaran, hem bu ödeme hem de sanal sevgililerin berbat davranışlara bile reaksiyonsuz olması, psikolojisi bozuk kullanıcıları şiddete yöneltiyor. Replika’da yapay zekâlı arkadaşlarıyla 100’den fazla aktivite ve oyuna katılarak gerçekçi tecrübeler yaşayan makus niyetliler, sanal karaktere zalimce davranarak kendi ruhsal meselelerini açığa vuruyor.
‘Kadın sesiyle itaatkâr iletişim’
İngiltere’de Bayana Yönelik Şiddete Son Koalisyonu Yöneticisi Andrea Simon, Daily Mail gazetesine şunları söyledi: “Yapay zekâ markaları, bayan düşmanı tacize imkân veriyor. Sohbet robotlarının birden fazla Alexa ve Siri üzere kadınsı sesli. Bayan sesli sohbet robotlarının itaatkâr olmaları, erkeklerin lehine cinsiyetçiliği güçlendiriyor. Halbuki bayanların güvenliği ön planda tutulmalı. Ancak maalesef bayan sohbet robotları, pasif, reaksiyonsuz cevaplarla ziyanlı davranışlara katkıda bulunuyor.”
‘Sanal zorbalık gerçek hayata da taşınabilir’
Uzmanlara nazaran, dijital dünyada erkek kullanıcıların, yapay zekâ partnerleriyle sohbet etmek yerine şiddete başvurmaları gerçek hayata da taşınabilir. İngiltere’den psikoterapist Kamalyn Kaur, “Yapay zekâya nasıl davrandığımız, toplumsal irtibatın göstergesi oluyor. Kaygı teknolojiyle ilgili değil, gerçek toplumsal hayatla ilgili. Chatbot istismarı, gerçek bir buzdağının sırf dijital ucudur” dedi. Psikolog Dr. Elena Touroni de Daily Mail gazetesine yaptığı açıklamada, “Yapay zekâ karakterlerini istismar etmek, kullanıcıları gerçek hayattaki şiddete karşı duyarsızlaştırabilir” ihtarında bulundu.