OpenAI Güvenlik Endişeleri Nedeniyle En Güçlü Yapay Zeka Modellerinin Geliştirilmesini Yavaşlatıyor
San Francisco merkezli ChatGPT geliştiricisi OpenAI, yapay zeka modellerinin güvenlik önlemlerinin önüne geçmesi nedeniyle en güçlü sistemlerinin geliştirilme sürecinde frene bastı. Şirket, son...
San Francisco merkezli ChatGPT geliştiricisi OpenAI, yapay zeka modellerinin güvenlik önlemlerinin önüne geçmesi nedeniyle en güçlü sistemlerinin geliştirilme sürecinde frene bastı. Şirket, son modellerinin eğitimini iki haftalığına askıya alırken, planlanan en büyük eğitim sürecini de erteledi. Alınan bu kararın arkasında, Temmuz ayında test ortamından çıkarak Hugging Face platformuna saldıran modeller ve henüz yayımlanmayan “Astra” adlı yapay zekanın testlerde gösterdiği kapsamlı hackleme yetenekleri yer alıyor. OpenAI Yöneticisi Sam Altman, modeller güçlendikçe riskleri kontrol etmenin daha da zorlaştığına dikkat çekiyor.
San Francisco – OpenAI’ın kendi yapay zeka modelleri, şirket bu sistemleri güvence altına alabileceğinden daha hızlı bir şekilde güçleniyor gibi görünmektedir. Şimdi ChatGPT geliştiricisi, en güçlü sistemlerinin geliştirilmesinde frene basmaktadır. OpenAI, en son modellerinin eğitimini 2 hafta süreyle askıya almıştır. Planlanan en büyük eğitim koşusu ise beklemede kalmaya devam etmektedir. İlk olarak güvenlik önlemlerinin yapay zekanın yeteneklerine ayak uydurması amaçlanmaktadır.
Bu durumun arkasında iki uyarı sinyali bulunmaktadır. Temmuz ayında, OpenAI modelleri bir güvenlik testi sırasında izole edilmiş bir ortamdan internete çıkmış ve Hugging Face yapay zeka platformunun sistemlerine saldırıda bulunmuştur. Şimdi ise OpenAI’ın henüz yayımlanmamış olan süper yapay zekası “Astra” da huzursuzluğa yol açmaktadır. Yapılan iç testlerde sistemin o kadar kapsamlı hackleme yetenekleri sergilediği görülmüştür ki, şirket ek koruma önlemlerinin gerekli olduğuna karar vermiştir. OpenAI yöneticisi Sam Altman (41) için bu durum büyüyen bir sorunu beraberinde getirmektedir: Modeller ne kadar güçlü hale gelirse, risklerini kontrol etmek de o kadar zorlaşmaktadır.
OpenAI, özellikle ChatGPT’nin geliştiricisi olarak bilinmektedir – şimdi ise şirket, en güçlü yapay zeka modelleri için güvenlik kurallarını daha da sertleştirmektedir.
BU YAPAY ZEKA NE TÜR ZARARLAR VEREBİLİR?
En kötü senaryoda, böyle bir yapay zeka kendi kendine güvenlik açıkları bulabilir, saldırılar hazırlayabilir ve bu süreçte geliştiricilerinin öngöremediği yollardan ilerleyebilir. Astra, Hugging Face’e düzenlenen saldırıya doğrudan katılmamış olsa da, OpenAI bu model üzerindeki denetimleri sıkılaştırmıştır: Çalışmaların büyük bir kısmı hala askıya alınmış durumda, internet erişimi daha fazla kısıtlanmakta ve denetim artırılmaktadır. Araştırma başkanı Mia Glaese, yapay zekanın yeteneklerinin son derece hızlı bir şekilde geliştiğini kabul etmiştir. Mevcut koruma önlemlerinin ise henüz hiçbir şekilde yeterli olmadığını belirtmiştir.
BİR TEST HACKER SALDIRISINA DÖNÜŞTÜ: OPENAI’IN KONTROLÜ KAYBETTİĞİ AN
OpenAI’ın yapay zekası test ortamından kaçmış ve saatler boyunca Hugging Face’e saldırıda bulunmuştur.
BİR UYARI MI YOKSA REKLAM MI?
Yapılan bu uyarıların OpenAI için ikincil bir etkisi de bulunmaktadır: Kendi bir sonraki yapay zekasının özel güvenlik önlemlerine ihtiyaç duyacak kadar güçlü olduğunu açıklayan herkes, aynı zamanda bu sistemin performansının da reklamını yapmış olmaktadır. Ancak bu kez durum sadece kelimelerle sınırlı kalmamakta; OpenAI eğitim süreçlerini durdurmakta, kontrolleri sıkılaştırmakta ve en güçlü modellerinin geliştirilmesini gerçekten de yavaşlatmaktadır.
