Investing.com – OpenAI, yeni nesil yapay zeka modelinin geliştirilmesini durdurdu. Ön testler yazılımın karmaşık siber saldırıları bağımsız olarak gerçekleştirebileceğini gösterdi.
San Francisco merkezli girişim Perşembe günü açıklama yaptı. Astra kod adlı yeni modelin gelişmiş kodlama ve hackleme becerileri gösterdiğini belirtti. Bu yetenekler şirketin “Kritik” risk eşiğini aşabilir. OpenAI’ın kendi güvenlik çerçevesine göre bir yapay zeka sistemi bu sınıflamaya ulaşır. Sistem “sıfırıncı gün” yazılım açıklarını bağımsız olarak keşfedebilir. Güvenli ağlara insan yönlendirmesi olmadan uçtan uca saldırılar başlatabilir.
Buna karşılık OpenAI, Astra’nın geliştirilmesini kısıtladı. Model artık yalnızca ağır korumalı ve izole ortamlarda çalışacak.
Bir Bakışta: OpenAI’ın ’Astra’ İçin Güvenlik Revizyonu
Durdurulan İş Akışları: Sıkı güvenlik kontrollerinden yoksun dahili geliştirme durduruldu.
Gerçek Zamanlı Müdahale: Yeni otomatik izleme sistemleri modelin temel akıl yürütme adımlarını takip edecek. Hatalı veya tehlikeli eylemleri anında kapatacak.
Dış Denetimler: OpenAI devlet kurumlarını ve üçüncü taraf güvenlik enstitülerini dahil ediyor. Modeli stres testine tabi tutacaklar.
Bu önleyici kilitleme Silikon Vadisi’ndeki artan gerilimi vurguluyor. Giderek güçlenen yapay zekayı ticarileştirme yarışı ile onu kontrol altında tutma gerekliliği çatışıyor. OpenAI teknolojisinin önceki sürümleri “Yüksek” risk derecesinde kalmıştı. GPT-5.6-Sol da bu kategorideydi.
OpenAI bir açıklama yaptı. Astra’nın henüz piyasaya sürülmediğini belirtti. Son dönemdeki yüksek profilli yapay zeka güvenlik ihlallerinde yer almadı. Hugging Face açığı gibi olaylarda rol oynamadı. Şirket bu duraklamayı dahili güvenlik önlemlerinin işe yaradığının kanıtı olarak sundu. Tehlikeli yetenekler teknoloji halka veya kurumsal müşterilere sunulmadan yakalanıyor.
Bu makale yapay zekanın desteğiyle oluşturulmuş, çevrilmiş ve bir editör tarafından incelenmiştir. Daha fazla bilgi için Şart ve Koşullar bölümümüze bakın.
