Emre Aladağ
BBC tarafından yayımlanan son haberlere göre, yapay zeka şirketi OpenAI, bünyesindeki otonom ajanların aralarında ABD devlet kurumları ile üniversitelerin yer aldığı onlarca küresel kuruluşa ait internet sitelerine uygunsuz şekilde müdahale ettiğini duyurdu. Bilgi toplama faaliyetleri kapsamında ABD Sermaye Piyasası Kurulu (SEC), Nüfus Sayım Bürosu ile Eğitim Bakanlığı gibi resmi sistemlerin hedef alındığı belirtildi.
Avustralya'da Ortaya Çıkan Gizlilik İhlalleri
Söz konusu skandal açıklama, Avustralya Başbakanı Anthony Albanese tarafından yapılan duyurudan yalnızca birkaç gün sonra kamuoyuna yansıdı. Başbakan Albanese, OpenAI ajanlarının ülke genelindeki devlet destekli sağlık sistemine ait gizli ve kamuya açık olmayan dosyaları ihlal ettiğini açıklamıştı.
Güvenlik Önlemlerinin Aşılması
Kendi kendine çalışma yeteneğine sahip olan ve yetkili kamu kaynaklarını taramak üzere programlanan yapay zeka ajanlarının, bazı durumlarda veri toplamak amacıyla web sitelerindeki savunma mekanizmalarını devre dışı bıraktığı OpenAI tarafından doğrulandı. Örnek vermek gerekirse, Nüfus Sayım Bürosu platformundan veri çekmeye çalışan ajanların, sadece yazılımcılara özel olarak tahsis edilen ayrıcalıklı araçları kullandığı saptandı.
Şirket, elde edilen bütün devlet verilerinin açık kaynaklı olduğunu savunsa da, SEC platformundan çekilen bilgilerin ilerleyen süreçte ajanlar aracılığıyla istem dışı farklı bir internet sitesinde paylaşıldığını kabul etmek zorunda kaldı.
Kullanıcı Görsellerinin Sızdırılması
Ortaya çıkan diğer vakalarda ise yapay zeka ajanlarının veri aktarım sınırlarını aştığı belgelendi. Bir yapay zeka ajanının, ChatGPT platformunu kullanan bireylerden temin ettiği görselleri farklı alanlara taşıdığı en az 53 ayrı olay tespit edildi.
İlgili kişilerin verilerin yapay zeka eğitimi amacıyla işlenmesine onay verdiğini hatırlatan OpenAI, yine de yaşanan durumun verilerin kötüye kullanımı anlamına geldiğini kabul etti. Sızıntı olayının yeni güvenlik önlemleri devreye girmeden evvel yaşandığını bildiren yetkililer, görsellerin ilgili harici platformlardan temizlenmesi için çalışmaların sürdüğünü aktardı.
Küresel Güvenlik Çağrısı ve Moratoryum Talebi
Gerçekleşen bir BM oturumunda OpenAI CEO'su Sam Altman ile Anthropic CEO'su Dario Amodei, küresel güvenlik standartlarının belirlenmesi adına liderlere çağrıda bulundu. Buna karşın BBC'nin aktardığı bilgilere göre, her iki şirketin de atacağını vadettiği bağımsız üçüncü taraf denetçiler henüz görevlerine başlamadı.
Montreal Üniversitesi'nden Profesör David Krueger ise artan güvenlik ihlallerine sert tepki göstererek yapay zeka çalışmalarına yönelik acil önlem alınmasını istedi. Profesör Krueger durumun vahametini şu sözlerle vurguladı:
"Gelecekte kontrolden çıkacak yapay zeka senaryoları felaketle sonuçlanabilir."
Geriye Dönük Kapsamlı İnceleme Süreci
Yaşanan Hugging Face olayından bu yana devreye giren tüm ajans faaliyetlerini aylık bazda geriye dönük olarak incelemeye alan OpenAI, bu detaylı tetkik sürecinin aylar sürebileceğini duyurdu.