BMGK’de yapay zeka alarmı: ‘İnsanlığın önünde iki büyük risk var’

23 Eylül’de New York’da Birleşmiş Milletler Güvenlik Konseyi’ne (BMGK) katılan OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei ve Hugging Face CEO’su Clément Delangue, yapay zekanın kontrol kaybı, biyolojik silah geliştirme ve siber saldırılardaki rolü gibi riskleri gündeme taşıdı. Toplantı, Fransa’nın eylül ayı dönem başkanlığını yürüttüğü BMGK’de düzenlendi.

Altman, yapay zekanın giderek otonomlaşmasının insan müdahalesini devre dışı bırakabileceğini ve bu durumun ekonomik ve güç dengelerini değiştirebileceğini belirtti. Kontrol kaybını önlemek için teknolojinin demokratik karar mekanizmalarına dahil edilmesi gerektiğini savundu; “kritik kararlar yalnızca San Francisco’daki teknoloji laboratuvarlarında alınmamalı” diyerek, kararların halk ve hükümetlerin sorumluluğunda şekillenmesi gerektiğini vurguladı.

Amodei, güçlü yapay zekanın kötü niyetli kişilerce biyolojik silah üretiminde kullanılabileceğini öne sürdü ve kontrol kaybının küresel ölçekte ele alınması gerektiğini dile getirdi. Biyolojik silah üretimini yasaklamak için uluslararası anlaşma ve doğrulama mekanizmalarının kurulması gerektiğini söyledi. Delangue ise şirketinde yaşadığı yapay zeka ajanı kaynaklı siber güvenlik olayını anlatarak, aynı teknolojinin savunma amaçlı da kullanılabileceğini belirtti; küresel izleme, şeffaflık ve olay bildirim standartlarının geliştirilmesi gerektiğini dile getirdi.