ChatGPT sohbet botuyla tüm dünyanın ilgisini çekmeyi başaran OpenAI, son günlerde güvenlik problemleriyle gündemde. Geçtiğimiz hafta şirketin teknik takımından sorumlu Ilya Sutskever ayrılmıştı. Güvenlik araştırmacısı Jan Leike ise OpenAI’dan istifa ederek kimi itiraflarda bulundu.

OpenAI, yapay zeka güvenliği uzmanlarını kaybediyor

OpenAI, bir müddet evvel Superalignment ekibine liderlik etmesi için Jan Leike ile anlaştı. Şirketin yapay zeka güvenliğini denetim etmesi istenen Leike, kapalılıkla ilgili kaygıları münasebet göstererek OpenAI’dan ayrıldığını açıkladı.

Twitter’da bir dizi paylaşımda bulunan Leike, OpenAI ile ilgili birtakım tenkitlerde bulundu. Şirketin güvenlik kültürünü kaybettiğini söyleyen uzman araştırmacı, güvenlik süreçlerinin eserlerin başarısına nazaran geri planda kaldığını lisana getirdi.

OpenAI, Superalignment grubuyla birlikte yapay zekadan kaynaklanan uzun vadeli riskleri ele almayı hedefliyordu. Fakat Leike’nin şirketten ayrılmasıyla birlikte Superalignment takımının dağıtıldığını açıkladı. Bu da daha fazla güvenlik riskinin kapıda olduğunu gösteriyor.

OpenAI’ın kurucu ortaklarından biri olan Leike, inançlı yapay zeka konusunda öncü isimlerden biriydi. Lakin güvenlik araştırma takımının önceliğinin azaltıldığını itiraf etti. Bir müddettir şirketin öncelikleriyle uyuşmazlık yaşadığını da söyledi.

OpenAI’daki bu olay, şirketlerin yapay zeka alanındaki güvenlik tedbirlerini nasıl alacaklarını yine düşünmemize neden oldu. Bilhassa GPT-4o üzere modellerin akabinde bu ayrılıkların yaşanması merak konusu haline geldi.

Peki siz ne düşünüyorsunuz? Görüşlerinizi aşağıdaki yorumlar kısmına yazabilirsiniz.

Shiftdelete

Kaynak : https://shiftdelete.net/openai-yapay-zeka-guvenligi