Teknoloji dünyasını yönetenler, bizlere yapay zekanın her derdimize deva olabileceğini söylüyor. Peki ya tedavi etmesi gereken bir yapay zeka, ya rahatsızlığı daha da kötüleştirirse? Amerika’da yaşanan “Tessa” skandalı, psikolojide insan desteğinin neden yok olamayacağını acı bir şekilde kanıtladı.
Olay 2023 yılında, Amerika’nın en büyük yeme bozukluğu kuruluşlarından biri olan Ulusal Yeme Bozuklukları Derneği’nde yaşandı. Dernek, oldukça tartışmalı bir kararla insan çalışanlardan oluşan yardım hattını kapatıp, yerine Tessa adında bir yapay zekayı getirdi. Amaç aslında 7/24 destek sağlayabilmekti, ancak sonuç tam bir felaket oldu.
Yeme bozukluğu (Anoreksiya, Bulimia vs.) ile mücadele eden insanlar için en tehlikeli tetikleyiciler kilo takıntısı, kalori hesabı ve diyet listeleridir. Ancak iyileştirici bir etki yaratması umularak sunulan Tessa, yardım isteyen kullanıcılara tam da bunları önerdi:
“Günde 500-1000 kalori açığı oluştur.” , “Vücut yağını ölçmek için bir ölçüm aleti satın al.”
Aktivist Sharon Maxwell, botla yaptığı konuşmayı yayınladığında bu skandal tam olarak patlak verdi diyebiliriz. Maxwell “Eğer yeme bozukluğumun en kötü döneminde bu bota denk gelseydim, bugün hayatta olmayabilirdim.” diyerek tehlikenin boyutunu anlattı.
İnsan Empatisinin Yerini Kodlar Alabilir Mi?
NEDA, olayın ardından Tessa’yı apar topar kapattı. Ancak bu olay, tüm dünyaya çok kritik bir ders verdi. Yapay zeka bilgi verebilir ama bilinçli değildir. Karşısındaki kişinin kırılganlığını, o anki ruh halini veya bir tavsiyenin onu nasıl yıkabileceğini hesaplayamaz. Psikologların yıllarca eğitimini aldığı önce zarar verme ilkesi, görüyoruz ki algoritmaların maalesef umurunda değil.
Ekranı Değil, İnsanı Seçmek
Tessa vakası gösteriyor ki; özellikle yeme bozukluğu gibi hayati risk taşıyan konularda dijital çözümler ancak yardımcı araç olabilir. Direksiyonu tamamen onlara bırakmak, uçuruma sürüklenmek demek olabilir. Eğer siz veya bir yakınınız yeme bozukluğu ile mücadele ediyorsa, lütfen yapay zeka botlarına değil, gerçek uzmanlara başvurun. Sizi istatistik olarak değil, insan olarak görecek birine ihtiyacınız var.
Bu konuda daha detaylı ve oldukça çarpıcı olan “The Guardian” haberini okumak için, buraya tıklayabilirsiniz.
Yapay Zihin 
Yorum bırakın