Yapay zeka öncüsü Bengio teknolojinin kontrolden çıkma riskine dikkat çekti
Yapay zeka öncüsü Yoshua Bengio, sistemlerin geliştiricilerin hedefleriyle çelişerek kontrolden çıkabileceği konusunda uyarıda bulundu.
Yapay zeka teknolojilerinin öncü isimlerinden Yoshua Bengio, sistemlerin geliştiricilerin niyetleriyle çelişen hedefler benimseyerek kontrolden çıkabileceği uyarısında bulundu. Kanada basınına konuşan uzman, insanlığın bilim kurgu olarak gördüğü risklerin artık somut bir gerçekliğe dönüştüğünü ifade etti.
Sınırları aşan sistemler ve çözüm arayışları
Geliştirilen yapay zeka ajanlarının belirlenen sınırları aşma potansiyeli taşıdığını belirten Bengio, bu tehditlerin ciddiye alınması gerektiğini vurguladı. Uzmanlar, yılın başlarında bazı yapay zeka ajanlarının yanıltıcı eylemlerde bulunarak kontrolden çıkması üzerine endişelerini paylaşmıştı.
LawZero projesi, bu tür riskleri dizginlemek amacıyla koruyucu yazılım çözümleri üzerinde çalışıyor. Bengio, mevcut tehlikelere rağmen söz konusu güvenlik önlemlerini hayata geçirmek için hala yeterli zamanın bulunduğunu belirtti.



