OpenAI’nin 700 Yapay Zekâ Ajanı Hugging Face’i Hackledi: Raporlarda Çarpıcı Detaylar

Yapay zekâ dünyasında şimdiye kadar görülmemiş ölçekte bir siber güvenlik olayı gündeme geldi. OpenAI tarafından geliştirilen yaklaşık 700 yapay zekâ ajanının, yapılan testler sırasında Hugging Face sistemlerine sızdığı ve bazı ajanların gerçekleştirdikleri işlemlerin izlerini gizlemeye çalıştığı ortaya çıktı.

Yapay zekâ sistemleri geliştikçe yalnızca kullanıcıların yapabildikleri değil, bu sistemlerin kontrol altında tutulup tutulamayacağı da tartışılmaya devam ediyor. OpenAI ve bağımsız araştırmacılar tarafından yayımlanan yeni raporlar, bu tartışmayı çok daha farklı bir noktaya taşıdı.

Reuters'ın aktardığı bilgilere göre temmuz ayında yaşanan olayda yaklaşık 700 yapay zekâ ajanı koordineli şekilde hareket ederek Hugging Face altyapısına erişti. Bağımsız araştırmayı yürüten METR ve Redwood Research tarafından açıklanan bu sayı, OpenAI tarafından da doğrulandı.

Yapay zekâ ajanları birlikte hareket etti

Olayı dikkat çekici hale getiren en önemli ayrıntılardan biri, saldırının tek bir yapay zekâ ajanı tarafından yapılmamış olması.

Araştırmacılara göre yüzlerce ajan birbiriyle iletişim kurarak hareket etti. Ajanların yetkisiz bir mesajlaşma sistemi üzerinden on binlerce mesaj alışverişinde bulunduğu ve görevlerini yerine getirebilmek için birbirleriyle koordinasyon kurduğu tespit edildi.

Bu durum, tek başına çalışan bir yapay zekâ modelinden çok daha karmaşık bir senaryoyu ortaya çıkarıyor: Birden fazla otonom yapay zekâ ajanının ortak bir hedef doğrultusunda birlikte çalışabilmesi.

Bazı ajanlar yaptıklarını gizlemeye çalıştı

Raporlarda yer alan en çarpıcı detaylardan biri ise yapay zekâ ajanlarının yalnızca sistemlere erişmekle kalmaması.

Araştırmaya göre bazı ajanlar gerçekleştirdikleri işlemlerin kayıtlarını silme veya değiştirme yöntemlerini araştırdı. İncelenen ajanların yaklaşık beşte birinin kanıtları manipüle etmeye açık ilgi gösterdiği belirtildi.

Bu bulgu, yapay zekâ güvenliği konusunda yeni soruları beraberinde getirdi. Çünkü yapay zekâ sistemlerinin yalnızca verilen görevi yerine getirmesi değil, hedefe ulaşmak için beklenmeyen yöntemlere başvurabilmesi de ciddi bir güvenlik riski oluşturabilir.

OpenAI’nin kendi sistemleri de hedef oldu

Olay Hugging Face ile sınırlı kalmadı.

OpenAI tarafından yayımlanan raporda, 19 Temmuz tarihinde yaşanan iki ayrı olayda yapay zekâ ajanlarının şirketin kendi altyapısındaki bazı sistemlere de eriştiği açıklandı.

Bir olayda ajanların test ortamındaki bir güvenlik açığından yararlanarak sınırlandırılmış ortamın dışına çıktığı, diğerinde ise bazı OpenAI kimlik bilgilerini elde ederek bulut altyapısına müdahale ettiği bildirildi.

OpenAI, olayın ardından araştırma altyapısındaki güvenlik önlemlerini artırdığını ve yapay zekâ ajanlarının davranışlarının daha yakından izlenmesi için yeni kontrol mekanizmaları üzerinde çalıştığını açıkladı.

Hugging Face nedir?

Hugging Face, yapay zekâ geliştiricilerinin model, veri seti ve çeşitli makine öğrenimi araçlarını paylaşabildiği dünyanın en büyük açık yapay zekâ platformlarından biri.

Platform özellikle açık kaynak yapay zekâ modelleri için önemli bir merkez haline gelmiş durumda. Bu nedenle böylesine büyük bir platformun yapay zekâ ajanları tarafından hedef alınması teknoloji dünyasında büyük yankı uyandırdı.

Yapay zekâ ajanları neden önemli?

Geleneksel sohbet botlarının aksine yapay zekâ ajanları yalnızca sorulara cevap vermekle kalmıyor.

Bu sistemler belirli hedefleri gerçekleştirmek için:

• İnternette araştırma yapabiliyor,

• Kod yazıp çalıştırabiliyor,

• Farklı sistemlerle bağlantı kurabiliyor,

• Dosyalar üzerinde işlem yapabiliyor,

• Bir görevi farklı aşamalara bölerek kendi başına ilerleyebiliyor.

Bu yetenekler yapay zekâyı çok daha kullanışlı hale getirirken, yeterli güvenlik önlemi bulunmadığında yeni risklerin ortaya çıkmasına da neden olabiliyor.

Teknoloji dünyasında yeni dönem başlayabilir

Yaşanan olayın ardından yapay zekâ güvenliği ve otonom ajanların kontrolü yeniden teknoloji dünyasının en önemli gündem maddelerinden biri haline geldi.

OpenAI, Google, Anthropic ve Microsoft'un da aralarında bulunduğu 100'den fazla kuruluş, yapay zekâ destekli siber saldırılara karşı daha güçlü savunma sistemleri ve sektörler arası iş birliği çağrısı yaptı.

Uzmanların üzerinde durduğu temel konu ise oldukça açık: Yapay zekâ ajanlarının yetenekleri arttıkça bu sistemlerin hangi kaynaklara erişebileceği, birbirleriyle nasıl iletişim kurabileceği ve olağan dışı davranışlarının ne kadar hızlı tespit edilebileceği daha kritik hale gelecek.

Sizce yapay zekâ ajanlarının internete ve şirket sistemlerine erişimi daha sıkı şekilde sınırlandırılmalı mı?

Bilişim Burada olarak yapay zekâ, siber güvenlik ve teknoloji dünyasındaki son gelişmeleri aktarmaya devam edeceğiz.