OpenAI’de Pentagon anlaşması krizi büyüyor!

OpenAI’nin Pentagon ile yaptığı anlaşma teknoloji dünyasında zaten tartışma yaratmıştı. Şimdi bu tartışma şirket içinden gelen önemli bir ayrılıkla daha görünür hale geldi. Robotik ve fiziksel yapay zekâ çalışmalarını yöneten üst düzey ismin istifası, karar sürecinin şirket içinde de tam karşılık bulmadığını gösteriyor. Gelişme, yapay zekânın askeri ve gözetim amaçlı kullanımında sınırların nasıl çizileceği sorusunu yeniden öne çıkarıyor.

Kalinowski, ayrılık kararını kamuoyuna yaptığı açıklamada ulusal güvenlikte yapay zekânın rolünü kabul ettiğini ancak bazı kırmızı çizgilerin yeterince tartışılmadan geçildiğini savundu. Özellikle yargı denetimi olmadan yapılacak gözetim uygulamaları ile insan onayı olmadan gelişebilecek ölümcül otonom sistemlerin daha fazla değerlendirme gerektirdiğini belirtti.

Şirket yönetimine yönelik kişisel bir suçlama yapmayan Kalinowski, sorunun esas olarak yönetişim ve karar alma sürecinde olduğunu vurguladı. OpenAI CEO’su Sam Altman da anlaşmanın hızlı ilerlediğini kabul etmişti. Bu ayrılık, eleştirilerin yalnızca dışarıdan gelmediğini de ortaya koydu.

Anlaşmanın etkisi

OpenAI, Pentagon anlaşmasının toplu yerel gözetim ve tam otonom silah kullanımına izin vermediğini savunuyor. Şirket, bulut tabanlı yapı, güvenlik katmanları ve mevcut Amerikan yasalarına dayanan sözleşme maddeleriyle koruma sağlandığını belirtiyor. Buna rağmen sürecin hızla sonuçlandırılması, güven tartışmasını bitirmiş değil.