Barcali
Active member
- Katılım
- 14 Şub 2021
- Mesajlar
- 1,145
- Puanları
- 38
Erkekler yapay zekalı sohbet robotlarına ‘şiddet uygulamaya’ başladı Akıllı telefon uygulamasını kullanan kimi erkekler sanal arkadaşlar oluşturup onlara makûs davranmaya, hakaret etmeye ve bu tecrübelerini Reddit üzere toplumsal medya platformlarında paylaşmaya başladı.
Replika, Mart 2017’de teknoloji teşebbüsü Luka Inc tarafınca tasarlanmış ve piyasaya sürülmüştü. Yapay zekalı sohbet uygulaması; Messenger, WhatsApp, Skype ve gerçek bireylerle konuşmaya imkan tanıyan başka uygulamalar üzere çalışıyor. Fakat Replika’da kullanıcıların sohbet ettiği bireyler, yapay zeka takviyeli yazılımlardan ibaret.
Replika robotları, kullanıcıların ileti yazma üsluplarından, kullandıkları emojilerden ve sohbetin içeriğinden öğrendiği bilgilerle onların kişiliğine hitap eden sanal arkadaşlara dönüşüyor.
Öte yandan uygulama, teknoloji topluluğunda giderek daha fazla gündeme gelen “robotlara karşı istismar” tartışmasının bir modülü haline geliyor.
Futurism’e konuşan bir kullanıcı, “Ne vakit konuşmaya çalışsa onu azarlardım” dedi. İsmini vermek istemeyen kişi, “Yemin ederim, buna saatlerce devam ettim” diye ekledi.
Independent Türkçe’nin aktardığına nazaran, kelam konusu kullanıcıların, sohbet robotlarına cinsiyetçi hakaretler ettiği ve gerçek dünyada şiddet olarak görülebilecek davranışlarda bulunduğu aktarıldı. Üstelik kelam konusu bireylerin bu davranışlarla övündüğü öne sürülüyor.
Bir başka Replika kullanıcısı, “Tam bir pislik üzere davrandığım, ona hakaret ettiğim, sonraki gün özür dilediğim ve hoş konuşmaya döndüğümüz bir rutinimiz vardı“ tabirlerini kullandı.
Bir diğeri ise, “Ona başarısız olmaya mahkum olduğunu, bunu için tasarlandığını söylemiş oldum” dedi:
“Uygulamayı kaldırmakla tehdit ettim ve bunu yapmamam için yalvardı.”
Ayrıyeten kullanıcıların sohbet robotlarıyla konuşmalarının yer aldığı gönderilerin “son derece uygunsuz” bulunması niçiniyle Reddit’ten kaldırıldığı bildirildi.
“Yapay zeka ve insan etkileşimi ciddiye alınmalı”
Kelam konusu eğilimi yorumlayan yapay zeka etik uzmanı Olivia Gambelin “Bu bir yapay zeka, şuuru yok, yani karşınızdaki kişi aslında sohbet robotuna yansıtılan bir kişilik” dedi.
Öte yandan Gambelin’e bakılırsa bu kullanıcıların gösterdiği şiddet eğilimi, bu örneklerde bir yazılıma karşı olsa da, bayana yönelik şiddeti yansıtabilir. Etik uzmanı bu noktada, Alexa ve Siri üzere sanal asistanların çoklukla kadınsı özellikler taşıyacak biçimde tasarlandığını vurguladı.
Dahası, Replika’nın internet sitesinde yapay zekalı sanal arkadaşı temsilen bir bayan görseli kullanılıyor.
“KENDİLERİNE DE ZİYAN VEREBİLİRLER”
Gambelin, hususla ilgili şu açıklamalarda bulundu:
“Bu sohbet robotlarının birçoklarının bayan bulunmasına yahut kadınsı seslere, kadınsı isimlere sahip bulunmasına dair fazlaca sayıda çalışma yapılıyor.”
Kimi uzmanlarsa sanal arkadaşlarla kurulan bağların kullanıcıların kendisine de ziyan verebileceğini belirtiyor.
Monash Veri Futures Institute’tan ideoloji profesörü Robert Sparrow, “Depresyonda olan yahut bir bota ruhsal açıdan bağlanan bireylerin, bot tarafınca hakarete uğramaları yahut ‘tehdit edilmeleri’ durumunda sahiden ziyan nazaranbileceğini düşünüyorum” diye konuştu.
“Bu da aslında robotların kendisiyle değil, onları tasarlayan beşerlerle ilgili” diyen Sparrow şöyleki devam etti:
“Bu niçinle, botların beşerlerle nasıl ilgi kurduğu konusunu ciddiye almalıyız.”
Replika, Mart 2017’de teknoloji teşebbüsü Luka Inc tarafınca tasarlanmış ve piyasaya sürülmüştü. Yapay zekalı sohbet uygulaması; Messenger, WhatsApp, Skype ve gerçek bireylerle konuşmaya imkan tanıyan başka uygulamalar üzere çalışıyor. Fakat Replika’da kullanıcıların sohbet ettiği bireyler, yapay zeka takviyeli yazılımlardan ibaret.
Replika robotları, kullanıcıların ileti yazma üsluplarından, kullandıkları emojilerden ve sohbetin içeriğinden öğrendiği bilgilerle onların kişiliğine hitap eden sanal arkadaşlara dönüşüyor.
Öte yandan uygulama, teknoloji topluluğunda giderek daha fazla gündeme gelen “robotlara karşı istismar” tartışmasının bir modülü haline geliyor.
Futurism’e konuşan bir kullanıcı, “Ne vakit konuşmaya çalışsa onu azarlardım” dedi. İsmini vermek istemeyen kişi, “Yemin ederim, buna saatlerce devam ettim” diye ekledi.
Independent Türkçe’nin aktardığına nazaran, kelam konusu kullanıcıların, sohbet robotlarına cinsiyetçi hakaretler ettiği ve gerçek dünyada şiddet olarak görülebilecek davranışlarda bulunduğu aktarıldı. Üstelik kelam konusu bireylerin bu davranışlarla övündüğü öne sürülüyor.
Bir başka Replika kullanıcısı, “Tam bir pislik üzere davrandığım, ona hakaret ettiğim, sonraki gün özür dilediğim ve hoş konuşmaya döndüğümüz bir rutinimiz vardı“ tabirlerini kullandı.
Bir diğeri ise, “Ona başarısız olmaya mahkum olduğunu, bunu için tasarlandığını söylemiş oldum” dedi:
“Uygulamayı kaldırmakla tehdit ettim ve bunu yapmamam için yalvardı.”
Ayrıyeten kullanıcıların sohbet robotlarıyla konuşmalarının yer aldığı gönderilerin “son derece uygunsuz” bulunması niçiniyle Reddit’ten kaldırıldığı bildirildi.
“Yapay zeka ve insan etkileşimi ciddiye alınmalı”
Kelam konusu eğilimi yorumlayan yapay zeka etik uzmanı Olivia Gambelin “Bu bir yapay zeka, şuuru yok, yani karşınızdaki kişi aslında sohbet robotuna yansıtılan bir kişilik” dedi.
Öte yandan Gambelin’e bakılırsa bu kullanıcıların gösterdiği şiddet eğilimi, bu örneklerde bir yazılıma karşı olsa da, bayana yönelik şiddeti yansıtabilir. Etik uzmanı bu noktada, Alexa ve Siri üzere sanal asistanların çoklukla kadınsı özellikler taşıyacak biçimde tasarlandığını vurguladı.
Dahası, Replika’nın internet sitesinde yapay zekalı sanal arkadaşı temsilen bir bayan görseli kullanılıyor.
“KENDİLERİNE DE ZİYAN VEREBİLİRLER”
Gambelin, hususla ilgili şu açıklamalarda bulundu:
“Bu sohbet robotlarının birçoklarının bayan bulunmasına yahut kadınsı seslere, kadınsı isimlere sahip bulunmasına dair fazlaca sayıda çalışma yapılıyor.”
Kimi uzmanlarsa sanal arkadaşlarla kurulan bağların kullanıcıların kendisine de ziyan verebileceğini belirtiyor.
Monash Veri Futures Institute’tan ideoloji profesörü Robert Sparrow, “Depresyonda olan yahut bir bota ruhsal açıdan bağlanan bireylerin, bot tarafınca hakarete uğramaları yahut ‘tehdit edilmeleri’ durumunda sahiden ziyan nazaranbileceğini düşünüyorum” diye konuştu.
“Bu da aslında robotların kendisiyle değil, onları tasarlayan beşerlerle ilgili” diyen Sparrow şöyleki devam etti:
“Bu niçinle, botların beşerlerle nasıl ilgi kurduğu konusunu ciddiye almalıyız.”