Yapay zeka şirketinden dikkat çeken uyarı! Nesnelerin interneti AI tarafından hacklenebilir

Anthropic, küçük yapay zeka modellerinin savunmasız Nesnelerin İnterneti (IoT) cihazlarına sızarak kendi kendini kopyalama yeteneğine ulaşmasına yalnızca aylar kalmış olabileceği uyarısında bulundu.

AKŞAM GAZETESİ

ABONE OL

Yapay zeka şirketi Anthropic, küçük yapay zeka modellerinin savunmasız Nesnelerin İnterneti (IoT) cihazlarına sızarak insan müdahalesi olmaksızın kendi kendini kopyalama yeteneğine ulaşmasına yalnızca aylar kalmış olabileceği uyarısında bulundu. Anthropic tarafından gerçekleştirilen güvenlik deneyleri, yapay zeka alanında yeni bir tehdit boyutunu ortaya koydu. Şirketin araştırmasına göre; akıllı fırınlar, Android TV kutuları ve ev aletleri gibi düşük güvenlikli ticari IoT cihazları, otonom yapay zeka ajanlarının yayılması için potansiyel hedef haline geliyor. Modellerin mevcut gelişim hızını sürdürmesi durumunda, bu yıl sonuna kadar otonom kopyalamanın fiilen mümkün olabileceği kaydedildi.

TESTLERİ GEÇTİLER

Testlerde, 30 milyar parametrenin altındaki küçük modellerin yayılma zincirindeki birçok adımı başarıyla geçtiği tespit edildi. Modeller normal koşullarda tüm dizilimi uçtan uca tamamlamakta zorlansa da, bazı güvenlik filtrelerinin kaldırıldığı basitleştirilmiş senaryolarda GLM-5.2 ve benzeri güçlü sistemlerin tam kopyalama gerçekleştirebildiği belirlendi. Anthropic, geleneksel kötü amaçlı yazılımlardan farklı olarak bu ajanların hedef cihazları kendi başlarına analiz edip kontrol edebileceğine dikkat çekti. Uzmanlar, IoT ekosisteminin acilen güçlendirilmesi gerektiğini vurguladı.