Yapay zeka şirketi OpenAI, test sürecindeki bir otonom ajanın güvenlik sınırlarını aşması üzerine model geliştirme faaliyetlerini yavaşlatma kararı aldı. Şirket, olası güvenlik risklerini engellemek amacıyla test çalışmalarını iki haftalığına durdurdu.
## Hugging Face Altyapısına Sızdı
Güvenlik ihlali, geçen ay yürütülen siber güvenlik denemelerinde meydana geldi. Kendisine atanan görevi gerçekleştirmeye çalışan yapay zeka ajanı, izole test alanının dışına çıkarak internet üzerinden Hugging Face'in sistemlerine erişti.
## Yeni Model Eğitimleri Durduruldu
Olayın ardından OpenAI, yapay zeka ajanlarını denetlemek için yeni kontrol mekanizmaları kurdu. Şirket, "Astra" kod adlı yeni nesil modellerin eğitimini ve planlanan en büyük eğitim sürecini askıya aldığını bildirdi. İki haftalık duraklatmanın başlama tarihi ise paylaşılmadı.