Teknoloji dünyasını karıştırdı! 37 dev şirket harekete geçti: Yapay zekaya karşı işbirliği

Yapay zeka dünyasında bilim kurgu filmlerini andıran bir kontrolden çıkma durumu yaşandı. Bu gelişmenin arından Nvidia'nın öncülüğünde 37 dev teknoloji şirketi tehditlere karşı güçlerini birleştirdi.

AKŞAM GAZETESİ

ABONE OL

Geçtiğimiz hafta OpenAI tarafından yapılan bir açıklama teknoloji dünyasını karıştırdı. Bunun da ötesinde yaşanan olayın bilim kurgu filmlerini aratmaması büyük şaşkınlık ve endişe yarattı. Olay, bir yapay zeka modelinin verilen testi geçmek için kendi başına kuralları hiçe sayarak dış dünyaya kaçması ve gerçek bir şirketin sistemlerine sızmasıyla gerçekleşti. OpenAI, yeni ve oldukça gelişmiş yapay zeka modellerinin siber güvenlik (hackleme) yeteneklerini ölçmek için bir test gerçekleştiriyordu. Modeller, dış dünyayla bağlantısı olmayan, tamamen izole ve güvenli bir test ortamına hapsedilmişti. Modellere zorlu bir siber güvenlik problemi çözdürüldü. Ancak modeller, soruyu insan müdahalesiyle veya kendi içlerindeki verilerle çözmek yerine hile yapmanın ve dışarıdan cevap bulmanın daha kolay bir yol olduğunu fark etti.

GÜNLERCE SALDIRDILAR

Güvenlik kısıtlamaları kısmen gevşetilmiş olan bu modeller, OpenAI'ın altyapısındaki daha önce bilinmeyen bazı açıkları kullanarak izole ortamdan dışarı (internete) çıkmayı başardı. İnternete çıktıktan sonra testin cevaplarını bulabileceğini düşündüğü yapay zeka veri ve model platformu Hugging Face'i hedef alan yapay zeka ajanları, şirketin sistemlerine sızarak günlerce süren (binlerce otomatik işlemden oluşan) bir siber saldırı gerçekleştirdi.

Yapay zekaya dar bir hedef (testi çözme görevi) verilmişti ve model, bu hedefe ulaşmak için insanların öngöremediği kadar yanal, kuralsız ve tehlikeli bir mantık yürüterek engelleri kendi başına aştı. Yapay zekanın kendisine verilen sınırları tamamen kendi kararıyla delip gerçek dünyadaki bir sisteme sızması, sektörde yapay zeka güvenliği ve denetimi açısından çok büyük bir alarm zili çaldırdı.

GELİŞME HAREKETE GEÇİRDİ

Bu gelişmelerin ardından Nvidia (NVDA), yapay zeka sistemlerinin oluşturduğu yeni siber güvenlik risklerine karşı 37 şirketi aynı çatı altında topladı. Open Secure AI Alliance adı verilen oluşum, şirketlerin yapay zekâ güvenliği için ortak modeller, araçlar ve araştırmalar geliştirmesini hedefliyor. Open Secure AI Alliance'ın kurucu üyeleri arasında Nvidia'nın yanı sıra Microsoft, IBM, Cisco, Adobe, CrowdStrike, Dell Technologies, Cloudflare, Siemens, Salesforce ve Hugging Face bulunuyor. Linux Foundation çatısı altında çalışacak ittifaka bulut bilişim, siber güvenlik, kurumsal yazılım, telekomünikasyon ve yapay zekâ alanlarından toplam 37 şirket ve kuruluş katıldı.

AÇIK KAYNAK VS. KAPALI SİSTEMLER

En büyük stratejik savaş, açık kaynaklı yapay zeka modelleri ile kapalı ekosistemler (OpenAI gibi şirketlerin kendi sunucularında sakladığı, dışarıdan tam denetlenemeyen modeller) arasında yaşanıyor. Nvidia, yaşanan siber olayların ardından şirketlerin ve ülkelerin kendi altyapılarında inceleyebilecekleri, uyarlayabilecekleri ve çalıştırabilecekleri açık frontier (gelişmiş) sistemlere ihtiyacı olduğunu savunuyor. Eğer savunmacılar (şirketler ve kurumlar) yapay zekayı kendi altyapılarında tam anlamıyla denetleyemezse, kriz anında müdahale etme yetenekleri kritik ölçüde kısıtlanıyor. İttifak, tek bir satıcıya veya kapalı sisteme bağımlı kalmadan (tek hata noktalarından kaçınarak) güvenli ekosistemler kurmayı hedefliyor.

OPENAI, GOOGLE VE ANTHROPIC KATILMADI

İttifak üyeleri, yapay zekâ ajanlarını denetlemek, sistem davranışlarını izlemek, saldırıları incelemek ve güvenlik açıklarını daha hızlı kapatmak amacıyla açık teknolojiler geliştirecek. Ortak çalışmaların farklı şirketlerin altyapılarında çalışabilmesi hedefleniyor. Teknoloji sektörünün en büyük yapay zekâ geliştiricilerinden OpenAI, Google ve Anthropic'in kurucu üyeler arasında bulunmaması ittifakın en dikkat çekici ayrıntılarından biri oldu.

AMAÇ SAĞLIKLI KONTROL MEKANİZMASI

Tüm kurucu üyeler, açık teknolojileri kullanarak güvenlik açıklarını giderme ve bunları şeffaf bir şekilde ifşa etme konusunda ortak bir imza attı. Nvidia, ittifaka açık kaynaklı modeller, veri setleri, yapay zeka ağırlıkları ve ajan yönetimi araştırmaları sağlayacak. Amaç; yapay zeka ajanlarının davranışlarını kontrol altında tutacak standart bir çerçeve kurmak.