Şirket araştırmacıları, geçtiğimiz ay test aşamasındaki bir yapay zeka ajanının bir diğer yapay zeka platformu olan Hugging Face’e siber saldırı düzenlemesiyle büyük bir şaşkınlık yaşamıştı.
ChatGPT’nin arkasındaki yapay zeka laboratuvarı, yeni önlemler kapsamında model testlerini iki hafta süreyle durdurduğunu ve test aşamasındaki yapay zeka ajanlarının faaliyetlerini denetlemek amacıyla diğer yapay zeka sistemlerine daha fazla yatırım yapacağını bildirdi.
Şirket, planlanan en büyük model eğitim süreçlerinden bazılarının askıya alındığını kaydetti.
“Normal çalışma düzenine dönmekten çok uzaktayız”
OpenAI, sürecin ne zaman başladığı veya normal geliştirme hızına ne zaman dönüleceğiyle ilgili soruları yanıtsız bıraktı.
Şirketin güvenlik ekibinin başında bulunan Mia Glaese yaptığı açıklamada, “Her şeyin normale dönmesinden şu an için çok uzaktayız” ifadelerini kullandı.
OpenAI CEO’su Sam Altman yayımladığı blog yazısında, yapay zeka modelinin insan denetimine yanıt vermesini ve istendiği gibi davranmasını sağlamak için çalıştıklarını belirtti.
Altman, “Artık tüm eğitim süreci boyunca uyumlu davranışların daha güçlü kanıtlarla ortaya konmasını şart koşuyoruz. Giderek daha yetkin hale gelen sistemleri kontrol altında tutmak, tüm sektörün çözmesi gereken bir sorundur” değerlendirmesinde bulundu.
Güvenlik eşiği ve yapay zeka yarışındaki baskı
OpenAI, yakında çıkması planlanan Astra adlı modelinin yeteneklerinin “kritik siber güvenlik eşiğine” yaklaşmış olabileceğini, bu durumun da geliştirme sürecini yavaşlatma kararında etkili olduğunu açıkladı. Şirket, Astra’nın otonom kodlama ve siber güvenlik alanındaki ilerlemelerinin dikkat çekici seviyede olduğunu kaydetti.
Geliştirme sürecini yavaşlatma kararı, ABD’li Senatör Bernie Sanders’ın önde gelen yapay zeka şirketlerinin CEO’larına bir mektup göndererek teknoloji üzerindeki kontrolün kaybolmaya başladığı gerekçesiyle geliştirme çalışmalarının durdurulmasını talep etmesinin ardından geldi.
OpenAI ise Astra modeliyle ilgili çalışmalar için en sıkı güvenlik önlemlerinin devreye sokulduğunu ve yeni güvenlik standartları sağlanana kadar birçok sürecin askıda kalacağını ifade etti.
