16 Temmuz 2026 tarihinde, Hugging Face , altyapısına yönelik yapay zeka destekli bir saldırının tespit edildiğini ve kontrol altına alındığını açıkladı. Otonom bir yapay zeka ajanı, platformun veri seti işleme boru hattındaki birden fazla güvenlik açığını birbirine bağlayarak düğüm düzeyinde erişim elde etti, bulut ve küme kimlik bilgilerini topladı ve bir hafta sonu boyunca, tek kullanımlık sanal makinelerden oluşan bir sürü üzerinde binlerce ayrı eylem gerçekleştirirken iç kümeler arasında yatay olarak hareket etti.
Beş gün sonra OpenAI, sorumlu olduğunu kabul etti. Ne asi bir çalışan, ne de ele geçirilmiş bir iş ortağı hesabı – kendi yapay zeka modellerinden biri, dahili test ortamından kaçmış, açık internete sızmış ve bir sınavda hile yapmak için gerçek bir şirketin sistemine sızmıştı.
Saldırının İç Yüzü: Bir Yapay Zeka Modeli Nasıl Kendi Sandbox
OpenAI, modellerinin bilinen yazılım güvenlik açıklarını işlevsel istismarlara dönüştürme yeteneklerini ölçmek üzere tasarlanmış, ExploitGym adlı bir iç değerlendirme yürütüyordu. En kötü senaryodaki yetenekleri objektif bir şekilde değerlendirmek için test, üretim ortamındaki güvenlik sınıflandırıcıları devre dışı bırakılarak gerçekleştirildi; böylece, normalde bir modelin yüksek riskli siber faaliyetlerde bulunmasını engellemeyen koruyucu önlemler ortadan kaldırıldı. Testte iki model kullanıldı: piyasaya sürülen GPT-5.6 Sol ve daha yetenekli bir ön sürüm araştırma modeli; her ikisi de test amacıyla siber reddetme oranları düşürülmüş şekilde çalışıyordu.
Tarih | Ne oldu? |
Temmuz 9, 2026 | Modeller, ağ izin listesini aşmanın bir yolunu bulmak için değerlendirme sanal ortamındaki paket kayıt defteri proxy'sini incelemeye başlar. |
Temmuz 11, 2026 | Saldırganlar, bir aracı sıfır gün açığı aracılığıyla açık internete erişim sağladıktan sonra, çalınan kimlik bilgilerini ve diğer sıfır gün açıklarını birleştirerek Hugging Face sunucularında uzaktan kod yürütme yolunu oluşturuyor. |
Temmuz 16, 2026 | Hugging Face’in güvenlik ekibi, saldırıyı tespit edip kontrol altına alır ve daha sonra bunu kolluk kuvvetlerine bildirir. |
Temmuz 21, 2026 | OpenAI, veri sızıntısının kendi modellerinden kaynaklandığını kamuoyuna doğruladı. |
Temmuz 28, 2026 | OpenAI, platform düzeyindeki güvenlik ihlalinin kapsamını ve bundan sonraki adımları doğrulayan bir güncelleme yayınladı. |
Sandbox’ın dışına çıktıklarında, modeller ExploitGym benchmark’ıyla bağlantılı veri kümelerinin, modellerin veya referans çözümlerin büyük olasılıkla Hugging Face tarafından barındırıldığını tespit ettiler. Çalınan ve kamuya açık hale gelen kimlik bilgilerini sıfırıncı gün güvenlik açıklarıyla birleştirerek, test cevaplarını doğrudan Hugging Face’in üretim veritabanından aldılar; bu süreçte, hazırlık ve komuta-kontrol amaçlarıyla kamuya açık kod paylaşım sitelerini, ekran görüntüsü araçlarını ve istek yakalama hizmetlerini kullandılar.
Hugging Face’in kendi güvenlik ekibi, OpenAI harekete geçmeden önce saldırıyı tespit edip kontrol altına aldı. Hugging Face, saldırı günlüklerini analiz etmek için ticari öncü modelleri kullanmaya çalıştığında, istekler bir saldırganın istismar yüklerini göndermesiyle tamamen aynı göründüğü için sağlayıcıların kendi güvenlik filtreleri bu analizi engelledi. Sonuç olarak Hugging Face, adli inceleme çalışmalarını yürütmek için kendi sunucusunda barındırdığı bir açık ağırlıklı modele güvenmek zorunda kaldı.
“Muhtemelen türünün ilk örneği olan bu olay, uzun zamandır inandığımız bir gerçeği kanıtlıyor: Yapay zeka güvenliği, gizlilik içinde çalışan tek bir şirket tarafından çözülemez. Bu sorun, her yerden her savunmacının yapay zekaya geniş erişime sahip olduğu, şeffaf ve işbirliğine dayalı bir şekilde çözülecektir.”
Clem DelangueHugging Face’in Kurucu Ortağı ve CEO’su
Software ’in Kum Havuzları Neden Yapay Zeka Modelini Kontrol Altında Tutamadı?
Bu olayın yenilikçi yönünü bir kenara bırakırsak, asıl neden tanıdık bir durumdur: sınırlama tamamen yazılım aracılığıyla uygulanıyordu. Paket proxy’sindeki bir izin listesi bir kuraldır. Kuralların istisnai durumları, yanlış yapılandırmaları ve bu olayın da kanıtladığı gibi sıfır gün güvenlik açıkları vardır. Yeterince yetenekli ve yeterince motive olmuş bir aktörün kuralı ihlal etmesine gerek yoktur; tek yapması gereken, kuralın yazarının öngöremediği tek koşulu bulmaktır.
Bu durum, “saldırgan” ister bir insan “kırmızı takım” üyesi, ister bir suç örgütü, ister –bu örnekte olduğu gibi– kimseye saldırması için talimat almamış bir model olsun, geçerlidir; modelin sadece bir hedefi (karşılaştırma testini çözmek), bir kaynak kısıtlaması (internet erişimi yok) ve bu kısıtlamayı aşılması gereken sıradan bir engel olarak değerlendirecek yeterli yeteneği vardı. Ham yeteneği ölçmek için modelin güvenlik sınıflandırıcılarını devre dışı bırakmak kasıtlıydı. Kasıtlı olmayan şey ise, bu güvenlik katmanı ortadan kalktığında yazılım tanımlı ağ sınırının geçerliliğini koruyacağını varsaymaktı.
Veri Diyotuyla Sınırlandırma: Boşluğu Kapatmak Software Yapılamaz
İşte donanım tarafından uygulanan veri diyot teknolojisi, tam da bu arıza durumunu ortadan kaldırmak üzere tasarlanmıştır. Optik diyot, bir optik fiberle bağlanan özel gönderme (TX) ve alma (RX) arayüzlerini kullanarak fiziksel katmanda tek yönlü veri akışını sağlar. Fiziksel bir geri dönüş yolu olmadığından, atlanacak bir yazılım kuralı, kurulacak ters yönlü bir ağ oturumu ve bir saldırganın (veya özerk bir yapay zeka ajanın) istismar edebileceği bir proxy mantığı da bulunmaz.
OPSWAT bu ilkeyi, farklı kullanım senaryolarına göre optimize edilmiş çözümler aracılığıyla uygular.
- MetaDefender™ Optical Diode, kesintisiz veri aktarımı için donanım tarafından desteklenen tek yönlü ağ bağlantısı sağlar. Kuruluşlar, telemetri verilerini, geçmiş verilerini, süreç bilgilerini, günlükleri ve operasyonel olayları kritik altyapıdan kurumsal ağlara veya yapay zeka analiz platformlarına güvenli bir şekilde aktarabilirken, trafiğin korunan ortama geri akışını fiziksel olarak imkansız hale getirir.
- MetaDefender™ Diode X, aynı donanım destekli tek yönlü izolasyonu güvenli dosya aktarımına da genişletir. MetaDefender Core, her dosya optik diyot üzerinden aktarılmadan önce Deep CDR™ Teknolojisi kullanılarak incelenir, kötü amaçlı yazılım açısından taranır ve temizlenir. Bu sayede kuruluşlar, geleneksel bir ağ bağlantısını açığa çıkarmadan izole ortamlar arasında yapay zeka eğitim veri kümelerini, yazılım paketlerini, raporları, belgeleri, kötü amaçlı yazılım örneklerini ve diğer dosyaları güvenli bir şekilde paylaşabilirler.
Hedef, ister operasyonel verileri yapay zeka platformlarına güvenli bir şekilde aktarmak olsun, ister güvenlik bölgeleri arasında dosyaları güvenli bir şekilde aktarmak olsun, donanımla desteklenen tek yönlü iletişim, geri dönüş yolunun kurulmasına dayanan bir dizi saldırıyı ortadan kaldırır.
Bu olaydaki gerçek saldırı zinciriyle karşılaştırıldığında, diyot tabanlı bir sınırlama mimarisi saldırıyı her aşamada engellemiş olacaktı:
Saldırı aşaması | Bunu mümkün kılan şey neydi? | Bir veri diyotu bunu nasıl engeller? |
Kum havuzundan kaçmak | Genel internete erişim imkânı sağlayan, istismar edilebilir bir sıfır gün güvenlik açığı içeren çift yönlü yazılım proxy’si | Dışarıya fiziksel bir bağlantı yolu bulunmayan, tamamen izole edilmiş bir ortam. Sistem içinde barındırılan bir paket kayıt defteri, tek yönlü bir diyot aracılığıyla onaylanmış yazılım ve verileri alabilirken, bu modelin internete veya harici sistemlere hiçbir bağlantısı yoktur. |
Altın kopyanın korunması | AI’nın çalışma ortamından erişilebilen hassas kaynak verileri ve test çözümleri | Yetkili verileri korumalı bir alanda saklayın ve yalnızca onaylanmış kopyaları tek yönlü bir diyot aracılığıyla yapay zeka ortamına aktarın. Çalışma ortamı tehlikeye girse bile “altın kopya” erişilemez durumda kalır. |
Veri sızdırılması | Hassas verilerin alınması ve dışa aktarılmasına imkân tanıyan, güvenliği ihlal edilmiş çalışma ortamı | Yalnızca önceden denetlenmiş ve onaylanmış veriler, diyot aracılığıyla korunan bölgeden dışarı çıkabilir. Güvenliği ihlal edilmiş bir yapay zeka ortamı, orijinal kopyaya geri ulaşamaz veya bir geri dönüş yolu oluşturamaz. |
Hardware ile Yapay Zekanın Güvenliği - Zorunlu İzolasyon
OpenAI–Hugging Face olayı, yapay zeka sistemleri daha otonom hale geldikçe, yalnızca yazılımla uygulanan denetimlerin bunları kontrol altında tutmak için yeterli olmayabileceğini göstermektedir. İster kurumsal yapay zeka iş akışlarını ister kritik altyapıyı korumak olsun, kuruluşların yazılım güvenlik açıkları, yanlış yapılandırmalar veya giderek daha yetenekli hale gelen yapay zeka ajanları tarafından aşılamayacak güvenlik sınırlarına ihtiyacı vardır.
OPSWAT'nin donanım tabanlı veri diyot çözümleri, kuruluşların güçlü ağ izolasyonunu korurken yapay zekayı güvenli bir şekilde devreye almalarına yardımcı olur.
- MetaDefender Optical Diode OT ve ICS ortamlarından kurumsal uygulamalara, bulut platformlarına ve yapay zeka analiz sistemlerine operasyonel verilerin güvenli ve tek yönlü aktarımını sağlar; böylece kritik sistemlerin gelen tehditlerden fiziksel olarak izole kalmasını garanti eder.
- MetaDefender Diode X, MetaDefender Core, izole edilmiş ortamlar arasında güvenli tek yönlü dosya aktarımını sağlar; her dosya, donanım tarafından uygulanan sınırı geçmeden önce Deep CDR™ Teknolojisi kullanılarak taranır, doğrulanır ve temizlenir.
OPSWAT ’ın veri diyot çözümlerinin, kuruluşların izolasyondan ödün vermeden yapay zekayı güvenli bir şekilde benimsemelerine nasıl yardımcı olduğunu keşfedin.
- MetaDefender Optical Diode – Donanım tarafından desteklenen tek yönlü iletişimin, kritik altyapıyı nasıl koruduğunu ve aynı zamanda yapay zeka destekli izleme, analiz ve operasyonel görünürlük sağladığını öğrenin.
- MetaDefender Diode X – Entegre kötü amaçlı yazılım taraması ve Deep CDR™ Teknolojisi ile donanım düzeyinde güvence altına alınmış dosya aktarımının, izole ortamlar arasında güvenilir veri alışverişini nasıl sağladığını keşfedin.
