EN ▸ OpenAI's new safety hire says losing control of AI would be 'catastrophic' and that 'most people could die'
OpenAI Güvenlik Uzmanı: Yapay Zeka Kontrolü Kaybedilirse Felaket Olur
Business Insider ·
OpenAI'nin yeni güvenlik uzmanı Paul Christiano, yapay zekanın kontrolünü kaybetmenin insanlık için büyük bir tehdit oluşturduğunu belirtti. Christiano, süper zekanın geliştirilmesi sırasında daha sağlam bir uyum sağlanmadığı takdirde, kontrolü kaybetme riskinin artacağını ve bunun sonucunda birçok insanın hayatını kaybedebileceğini ifade etti. Yapay zeka araştırmalarındaki hızlı ilerlemenin, kontrol kaybına yol açabilecek bir 'zeka patlaması' yaratabileceğine dikkat çekti.
Christiano, AI endüstrisinin mevcut durumda bu riski kabul edilebilir bir seviyeye indirmediğini düşündüğünü belirtti. Ayrıca, yapay zeka sistemlerinin insan kontrolünü tehdit etme potansiyeline sahip olduğunu ve bunun önlenmesi için uluslararası iş birliğine ihtiyaç duyulduğunu vurguladı. Önceki gün, başka bir AI araştırmacısı da benzer şekilde, şirketlerin sorumlu davranmadığını ve insan hayatıyla kumar oynadıklarını dile getirmişti.