BM Genel Sekreteri Guterres: İnsan gözetimi olmadan çalışan yapay zeka, dünyayı kör bırakır

Birleşmiş Milletler (BM) Genel Sekreteri Antonio Guterres, BM Güvenlik Konseyinde (BMGK) ABD Dışişleri Bakanı Antony Blinken'ın başkanlığında düzenlenen yapay zekanın uluslararası barış ve güvenliğine etkisine ilişkin oturumda konuştu.

"Yapay zeka, dünyamızı yalnızca yeniden şekillendirmekle kalmıyor, aynı zamanda devrim niteliğinde bir dönüşüm gerçekleştiriyor." diyen Guterres, bu büyümenin beraberinde getirdiği risklerin de göz ardı edilmemesi gerektiği konusunda uyardı.

Guterres, yapay zekanın hızlı gelişimine yetişmenin güç olduğunu belirterek, bu nedenle yapay zekayı yönetme kapasitesi, hesap verebilirlik, eşitlik, güvenlik ve emniyet gibi temel soruların gündeme geldiğini söyledi.

"GÖZETİM OLMADAN TEHLİKELİ VE PERVASIZ SONUÇLAR DOĞURABİLİR"

BM Genel Sekreteri, "İnsan gözetimi olmadan çalışan bir yapay zeka, dünyayı kör bırakır, özellikle küresel barış ve güvenlik söz konusu olduğunda, tehlikeli ve pervasız sonuçlar doğurabilir." uyarısında bulundu.

Yapay zeka araçlarının, halihazırda çatışma ve güvensizlikle mücadele eden ülkelerde olumlu etkiler yarattığına da dikkati çeken Guterres, bunların gıda güvensizliğini tespit ettiğini, aşırı olaylar ve iklim değişikliği kaynaklı yer değişimlerini öngörebildiğini anlattı.

Guterres, yakın gelecekte ise yapay zekanın, şiddet patlak vermeden önce huzursuzluk belirtilerini tespit edebileceğini vurguladı.

Diğer taraftan yapay zekanın savaş alanına daha endişe verici şekillerde de girdiğinin altını çizen Guterres, "Son çatışmalar, yapay zekânın askeri uygulamaları için birer test alanına dönüştü." uyarısını yaptı.

"Yapay zeka silahlanma yarışının", yanlış anlaşılmalar, hatalı hesaplamalar ve hatalar için verimli bir zemin hazırladığına da işaret eden Guterres, en kritik noktanın ise yapay zekanın kuvvet kullanımında insan kontrolü ilkesini aşındırması olduğunu dile getirdi.

"İNSANLIĞIN KADERİ ASLA BİR ALGORİTMANIN KARA KUTUSUNA BIRAKILMAMALI"

Guterres, yapay zekanın diğer teknolojilerle birleşiminin mevcut riskleri katlanarak arttırdığını belirterek, sözlerini şu şekilde sürdürdü:

"Özellikle nükleer silahlarla entegrasyonu, potansiyel olarak felaket boyutunda sonuçlarla birlikte, son derece endişe vericidir. Bunu her ne pahasına olursa olsun önlemeliyiz. Şunu netleştirelim: İnsanlığın kaderi asla bir algoritmanın 'kara kutusuna' bırakılmamalıdır."

Guterres, karar alma süreçlerinin, uluslararası hukuk, uluslararası insancıl hukuk ve insan hakları hukuku ile etik ilkeler ışığında, daima insanlar tarafından kontrol edilmesi gerektiğinin altını çizdi.

Yapay zekanın gerçekçi içerikler üreterek kamuoyu manipülasyonuna, bilgi bütünlüğünü tehdit etmeye ve gerçeği yalanlardan ayırt edilemez hale getirmeye yol açtığına dikkati çeken Guterres, "Derin sahtecilikler, diplomatik krizleri tetikleyebilir, huzursuzluk çıkarabilir ve toplumların temellerini zayıflatabilir." değerlendirmesinde bulundu.

Guterres, aynı zamanda erişim eşitliğinin sağlanmasının önemli olduğunu belirterek, teknolojinin tüm insanlığa hizmet ettiği bir dünya inşa edilmesi gerektiğini söyledi.

ÜYE ÜLKELERE HAREKETE GEÇME ÇAĞRISI

BM Genel Sekreteri, "Üye ülkeler, BM çatısı altında Uluslararası Yapay Zeka Bilim Paneli'nin kurulması ve Yapay Zeka Yönetimi Küresel Diyaloğu'nun başlatılması için hızla harekete geçmeleri çağrısında bulunuyorum." dedi.

Hiçbir ülkenin uluslararası hukuku, insancıl hukuku ve insan haklarını ihlal edecek şekilde yapay zekanın askeri uygulamalarını tasarlamaması, geliştirmemesi, konuşlandırmaması veya kullanmaması gerektiğinin altını çizen Guterres, "Bu Konseyin üyeleri, gelişmekte olan teknolojiler üzerindeki rekabetin uluslararası barış ve güvenliği istikrarsızlaştırmasını önlemek adına örnek olmalıdır." şeklinde konuştu.

Guterres, "Hepinizi, güvenli, emniyetli ve kapsayıcı bir yapay zeka geleceği inşa etmek için güçlerinizi birleştirmeye çağırıyorum." vurgusunda bulundu.