Yapay zekâ alanında faaliyet gösteren şirketlerin giderek daha güçlü sistemler geliştirmek için yarışması, teknolojinin güvenliği konusunda yeni tartışmaları beraberinde getirdi.
OpenAI ve Anthropic bünyesinde son üç yıldır araştırmalar yürüten Jacob Coxon'un Anthropic'ten istifa etmesiyle başlayan tartışma, şirket içerisinde görev yapan Hubinger'ın açıklamalarıyla daha da dikkat çekici hale geldi.
"SÜPER ZEKÂYI KONTROL EDECEK NET BİR PLAN YOK"
Coxon, istifasının ardından yaptığı değerlendirmede yapay zekâ sektöründeki şirketlerin kendi kendini geliştirebilen süper zekâya ulaşmak için kontrolsüz bir yarış yürüttüğünü savundu.
Coxon, gelecekte ortaya çıkabilecek sistemlerin çok kısa sürede farklı alanlarda insanüstü yeteneklere ulaşabileceği konusunda uyarıda bulundu.
Bu açıklamayı paylaşan Anthropic kıdemli araştırmacısı Evan Hubinger ise daha da çarpıcı bir değerlendirmede bulundu. Hubinger, yapay zekânın 10 yıl içinde tüm insanları öldürebileceğine gerçekten inandığını belirterek bu ihtimalin yüzde 10'dan fazla olduğunu söyledi.
Hubinger ayrıca Anthropic'in yapay zekâ güvenliği konusunda elinden geleni yaptığını düşündüğünü ancak süper zekânın insanlarla uyumlu çalışmasını güvence altına alacak kesin bir planlarının henüz bulunmadığını ifade etti.
"BU SÜREÇ YAVAŞLAMIYOR"
Jacob Coxon ise sektörün geldiği noktaya ilişkin uyarılarında, yapay zekâ sistemlerinin giderek daha fazla yetenek kazandığına dikkat çekti.
Coxon'a göre gelecekteki sistemler bilgisayar sistemlerini hackleyebilecek, çeşitli sektörleri çok kısa sürede dönüştürebilecek ve önemli ölçüde güç ve kaynak elde edebilecek kapasiteye ulaşabilir.
