Son vakitlerin en tanınan teknolojileri ortasında yer alan yapay zeka; kamu kurumlarından sıhhat kesimine, otonom araçlardan taşınabilir aygıtlara birçok alanda etkin bir biçimde kullanılmaktadır. Beşerlerle ortasındaki etkileşimi kıymetli bir boyuta ulaşmış durumda olan teknolojiyle ilgili bir araştırma, kimi dikkat cazip bulguları gözler önüne seriyor. İşte detaylar

Yapay zeka sistemleri, sanıldığından daha savunmasız!

Kuzey Carolina Eyalet Üniversitesi’nin yürütmekte olduğu bir araştırma projesi kapsamında, yapay zeka güvenliği masaya yatırıldı. Sistemlerin makus niyetli ataklara karşı neler yapabildiğini görmek ismine sonların zorlandığı araştırmada, son derece kritik sonuçlara ulaşıldı. Bu sonuçlar, günümüz şartlarında bu sistemlerin sanıldığından çok daha savunmasız olduğunu ortaya koyuyor.

Araştırma mühletince yapılan düşmanca denemeler, yapay zeka sistemlerine sağlanan data akışının manipüle edilmesi suretiyle gerçekleştirildi. “QuadAttacK’ isimli özel bir yazılım aracılığıyla yapılan denemelerde sistemlerin karar verme süreçleri ayrıntılı bir halde incelenerek muhtemel güvenlik açıkları tespit edildi.

Tespit edilen farklı güvenlik açıkları üzerine ağırlaşan araştırmacılar, sistemlerin güvenlik düzeyinin beklenenden çok daha düşük düzeyde olduğunu söz ettiler. Örneğin yapay zeka ile data tahlili yapan bir X-ray aygıtının incelediği bilgileri çarçabuk değiştirilebilmesiyle sonuçlanabilecek bu güvenlik açıkları, birçok kritik kesimi de büyük bir risk faktörüyle karşı karşıya bırakıyor.

Gerçekleştirilen bu kritik araştırmanın bilimsel raporları şimdi tam manasıyla hazırlanmamış olsa da araştırma eskiz haliyle bile ziyadesiyle dikkat cazip görünüyor. Pekala, sizler bu hususla alakalı olarak neler düşünüyorsunuz? Sizce bu bulgular, kapsamlı bir değişikliğe gidilmesine önayak olabilir mi? Görüşlerinizi bizlerle yorumlar kısmından paylaşabilirsiniz.

Shiftdelete

https://shiftdelete.net/yapay-zeka-guvensiz