ChatGPT Eski Kız Arkadaşını Öldürme Planı Yapan Adamı FBI’a İhbar Etti
ABD’nin Florida eyaletinde, Goldman Sachs analisti Darren Shida Zhou’nun yapay zeka sohbet botu ChatGPT’ye yazdığı eski kız arkadaşını kaçırma, tecavüz etme ve öldürme planları...
ABD’nin Florida eyaletinde, Goldman Sachs analisti Darren Shida Zhou’nun yapay zeka sohbet botu ChatGPT’ye yazdığı eski kız arkadaşını kaçırma, tecavüz etme ve öldürme planları OpenAI’nin güvenlik sistemleri tarafından tespit edilerek FBI’a bildirildi. Mahkeme kayıtlarına ve basına yansıyan bilgilere göre, güvenlik birimlerinin hızlı müdahalesiyle genç kadının hayatı kurtarılırken, sanık çıkarıldığı mahkemede suçunu kabul ederek sekiz yıl denetimli serbestlik cezasına çarptırıldı. Yaşanan olayın ardından yatırım bankası Zhou’nun işine son verirken, yapay zeka sistemlerinin tehlikeli içerikleri engelleme konusundaki güvenlik önlemleri bir kez daha gündeme geldi.
Florida’da yapay zeka ChatGPT, bir adamın cinayet planını FBI’a bildirdi ve böylece genç bir kadının hayatını kurtardı. Investmentbank Goldman Sachs’ta analist olan 25 yaşındaki Darren Shida Zhou, ChatGPT’ye eski kız arkadaşını nasıl kaçırmak, tecavüz etmek ve öldürmek istediğini detaylı bir şekilde anlatmıştı. Zhou yapay zekaya, “Eğer onu ben alamazsam, kimse alamaz” diye yazdı. ChatGPT’nin operatörü olan OpenAI’nin güvenlik sistemleri tehdidi fark ederek FBI’a haber verdi.
Palm Beach Post’un mahkeme belgelerine dayandırdığı habere göre, Lake Worth Beach’ten (Florida) gelen 21 yaşındaki kadın, Zhou’nun tepkisinden korktuğu için ilişkisini telefonla sonlandırmıştı.
“AY SONUNA KADAR ONU ÖLDüRECEĞİM”
Zhou, ChatGPT’ye gönderdiği mesajlarda eski kız arkadaşının ilgi alanlarını, ziyaret ettiği yerleri ve kıskançlığını kaydetti. Onu bir spor salonunun önünde durdurup kaçırmak, tecavüz etmek ve öldürmek istediğini yazdı. Silahlardan, hastalıklı fantezilerinden ve eski sevgilisini geri kazanma sanrısından bahsetti: “Bana ikinci bir şans vermezse, onu tecavüz edip öldüreceğim ve sonra kendimi.”
SOHBET KAYITLARI FBI’A GİTTİ
OpenAI’nin güvenlik sistemleri tehdit içerikli materyalleri tespit etti. Bir çalışan materyali analiz ederek FBI’a bildirdi. Federal polis, konuşma dökümanlarını Palm Beach’teki müfettişlere teslim etti. Yapay zekaya gönderilen bu rahatsız edici mesajları bir cinayet planı olarak değerlendirdiler. Zhou tutuklandı ve suçunu kabul etti. Ayrıca ayrılıktan sonra eski kız arkadaşını farklı telefon numaralarından ve sosyal medya üzerinden arama ve kısa mesajlarla defalarca taciz ettiğini itiraf etti.
Savcılık Zhou’yu takip, yazılı ölüm tehditleri ve suç işlemek için iletişim cihazı kullanmaktan suçlu buldu. Hakim onu sekiz yıllık denetimli serbestliğe mahkum etti. Zhou artık eski kız arkadaşıyla iletişim kuramayacak, ateşli silah bulunduramayacak ve iki yıl boyunca elektronik kelepçe takmak zorunda kalacak.
Avukatı, müvekkilinin ağır bir psikolojik kriz geçirdiğini açıkladı. Goldman Sachs ise Zhou’yu işten çıkardı.
ChatGPT geçmişte tehdit içerikli mesajlara müdahale etmediği için defalarca eleştirilmişti. Bu güvenlik açığı şimdi giderek kapanıyor gibi görünüyor.
