Yetersiz Güvenlik Önlemlerine Sahip Erken Dönem Yapay Zeka Deneyi: Microsoft’un Tay Vakası
Pek çok insan yapay zeka ile ChatGPT aracılığıyla tanışırken, şirketler yıllar önce benzer sistemleri test etmeye başlamıştı. Bunlar arasında en bilineni Microsoft’un 23 Mart 2016’da...
Pek çok insan yapay zeka ile ChatGPT aracılığıyla tanışırken, şirketler yıllar önce benzer sistemleri test etmeye başlamıştı. Bunlar arasında en bilineni Microsoft’un 23 Mart 2016’da Twitter’da tanıttığı kadın avatarlı sohbet botu Tay oldu. Ancak yetersiz güvenlik önlemleri ve polarize içerikler nedeniyle kısa sürede rasisst ve nefret söylemleri yaymaya başlayan sistem, sadece 16 saat sonra kapatıldı. Uzmanlar bu deneyi, yapay zeka sağlayıcılarının teknolojideki riskleri ve yetersiz koruma mekanizmalarını anlaması açısından hâlâ önemli bir uyarı olarak değerlendiriyor.
Birçok insan yapay zeka ile ilk kez ChatGPT sayesinde tanıştı. Ancak şirketler, bundan yıllar önce de benzer sistemleri test ediyordu. Bunlar arasında özellikle bilineni Microsoft’un sohbet botu Tay oldu. Fakat bu deney yalnızca 16 saat sürdü ve günümüze kadar yeterince korunmayan yapay zekanın risklerine örnek teşkil etmeye devam ediyor.
Microsoft, Tay’ı 23 Mart 2016’da bugün X olarak bilinen Twitter’da tanıttı. Sohbet botu kadın bir avatar olarak tasarlandı ve kullanıcılarla iletişim kurması amaçlandı. Ancak Tay, kısa süre içinde ırkçı ve nefret dolu içerikler yaymaya başladı.
TAY NEDEN KONTROLDEN ÇIKTI?
Münih Uygulamalı Bilimler Üniversitesi Bilişim Profesörü Anna Kruspe, “Tay teknik açıdan heyecan verici bir deneydi. Ancak oldukça kısa bir süre sonra ırkçılık ve nefret söylemi gibi sorunlu içerikler üretmeye başladı” sözleriyle durumu hatırlatıyor. Microsoft olayla ilgili neredeyse hiç teknik detay yayınlamadı. Kruspe’ye göre Tay, günümüzdeki sistemlere kıyasla farklı sinir ağları kullanıyordu ve bu ağlar uzun süreli konuşmalardaki bağlamı anlamakta oldukça zorlanıyordu.
MODERN YAPAY ZEKA KORUMA MEKANİZMALARINA GÜVENİYOR
Uzmanın değerlendirmesine göre Tay, Twitter topluluğundan gelen polarize içeriklere özellikle güçlü bir şekilde tepki verdi. Kruspe, “Girdi verileri sorunluysa, çıktının da sorunlu olma riski yüksektir” açıklamasında bulunuyor. Bilişim profesörüne göre günümüzdeki sohbet botları artık doğrudan ve filtrelenmemiş kullanıcı girdileriyle eğitilmiyor. Ayrıca nefret söylemi ve diğer aşırı içeriklere karşı otomatik filtrelerin kullanıldığı tahmin ediliyor.
DENEY GÜNÜMÜZE KADAR BİR UYARI NİTELİĞİ TAŞIYOR
Microsoft, Tay’ı 16 saat ve 96.000’den fazla tweet’in ardından sonlandırdı. Bir hafta sonra yapılan bir diğer girişim ise aynı nedenlerle daha da hızlı bir şekilde başarısız oldu. Buna rağmen deney o dönemde bir şeyi net bir şekilde ortaya koydu: Kruspe’ye göre bu durum, “…yapay zeka sağlayıcıları gelişmeleri ucuza aldığında veya hafife aldığında ne olabileceğini” gösteriyordu.
Bugün yapay zeka sağlayıcıları farklı zorluklarla karşı karşıya. Yüksek işletme maliyetlerinin yanı sıra eğitim verilerinin kalitesi de önemini koruyor. Büyük veri kümelerindeki önyargılar, belirli grupların fark edilmeden dezavantajlı duruma düşmesine neden olabiliyor. Tay’ın X üzerindeki hesabı hâlâ varlığını sürdürüyor ancak 2016 yılından bu yana herhangi bir paylaşım yapmıyor.
