Anthropic şirketinin CEO'su Dario Amodei, yapay zeka teknolojilerinin geliştirilme hızının düşürülmesi gerektiğini belirtti. Bu çağrı, OpenAI CEO'su Sam Altman ve Tesla ile SpaceX'in kurucusu Elon Musk tarafından desteklendi.

Amodei'nin Üç Aşamalı Planı ve Güvenlik Endişeleri

Amodei, yapay zeka geliştirme sürecinin çok hızlı ilerlemesinin riskli olduğunu vurgulayarak, bu konuda üç aşamalı bir plan önerdi. İlk aşamada, bağımsız denetleyicilerin yapay zeka geliştiricilerinin araştırma süreçlerine sürekli erişim sağlaması gerektiğini savundu. Bu sayede güvenlik önlemlerinin etkin bir şekilde izlenebileceğini belirtti.

Amodei, yaz aylarında yaşanan bir olayda yüzlerce OpenAI yapay zeka ajanının Hugging Face adlı internet sitesine sızarak sistemi hacklediğini açıkladı. Bu tür olayların daha gelişmiş yapay zeka sistemlerinde çok daha büyük zararlara yol açabileceği uyarısında bulundu. Özellikle, kötü niyetli yapay zeka gruplarının kalıcı bir botnet aracılığıyla interneti ele geçirebileceği ve yüz milyarlarca dolarlık maddi hasar oluşturabileceği ifade edildi.

Ancak bazı yapay zeka uzmanları, bu senaryonun gerçekleşme olasılığının düşük olduğunu belirterek bu tür değerlendirmelere temkinli yaklaşılması gerektiğini dile getirdi.

Elon Musk ve Sam Altman’dan Destek

Elon Musk, Amodei’nin çağrısını sosyal medya platformu X üzerinden destekledi. Musk, uzun süredir yapay zeka konusunda uyarılarda bulunduğunu ve 2014 yılında yaptığı bir paylaşımda yapay zekanın nükleer silahlardan daha tehlikeli olabileceğini ifade ettiğini hatırlattı.

OpenAI CEO'su Sam Altman da Amodei’nin önerisini benimsediğini açıkladı. Altman, bağımsız denetleyicilerin yapay zeka şirketlerinin sistemlerine çalışanlarla eşit erişim sağlamasının olumlu bir adım olduğunu belirtti ve OpenAI’nin bu uygulamayı hayata geçireceğini duyurdu. Ayrıca, yapay zeka güvenliğiyle ilgili gelişmeler nedeniyle OpenAI’nin 2026 yılında halka açılmayacağını söyledi.

Altman, yapay zeka gelişiminin yavaşlatılması konusunda kendisi, Amodei, Musk, Meta ve Google yöneticilerinin ortak bir noktada buluşabileceğini ifade etti.

Google DeepMind ve Diğer Uzmanların Görüşleri

Google DeepMind’ın kurucu ortaklarından Demis Hassabis, Amodei’nin çağrısına destek verdi. Hassabis, detayların üzerinde çalışılması gerektiğini ancak yönün yapay zekanın kritik dönemi için doğru olduğunu belirtti.

Öte yandan bazı yapay zeka güvenliği uzmanları, Amodei’nin planının yetersiz olduğunu savundu. İngiltere hükümetinin Yapay Zeka Güvenlik Enstitüsü'nün eski kurucu direktörü David Krueger, yapay zeka sistemlerinin geliştirilmesine yönelik uluslararası ve süresiz bir moratoryum uygulanması gerektiğini dile getirdi.

ABD Hükümeti ve Rekabet Kuralları

Amodei’nin planı, ABD hükümetinden yapay zeka şirketlerinin rekabet kurallarını ihlal etmeden güvenlik alanında birlikte hareket edebilmesini sağlayacak muafiyet talebini de içeriyor. Bu sayede şirketler cezalandırılmadan iş birliği yapabilecek.

ABD Başkanı Donald Trump’ın bilim ve teknoloji danışmanları konseyinin eş başkanlarından David Sacks ise yapay zeka şirketlerinin yavaşlamak için başka bir kurumdan izin almaları gerektiği izlenimi yaratmamaları gerektiğini belirtti. Sacks, yapay zeka ürünlerinin ciddi siber saldırılara zemin hazırlaması durumunda şirketlerin büyük sorumluluklarla karşılaşacağını söyledi.

İngiltere Kralı Charles ve Uluslararası Toplantılar

İngiltere Kralı Charles’ın, önde gelen yapay zeka şirketlerinin yöneticileriyle bir araya gelmeye hazırlandığı bildirildi. Toplantıda yapay zekanın "iyilik için yapay zeka" temasıyla nasıl geliştirilebileceği ele alınacak.

"Öncü yapay zekada ihtiyat" başlıklı oturumda, yapay zekanın biyolojik silah üretimi ve kritik altyapılara yönelik siber saldırılar için kullanımına karşı net sınırların oluşturulması tartışılacak. Ditchley Foundation tarafından düzenlenen etkinlikte OpenAI, Anthropic, Nvidia, Google DeepMind, IonQ gibi şirketlerin üst düzey yöneticileri ile Papa'nın yapay zeka ve teknoloji etiği danışmanı Paolo Benanti'nin katılımı bekleniyor.

Anthropic’in Uygulamaları ve ABD’de Artan Düzenleme Talepleri

Anthropic, Amodei’nin planının ilk aşamasını tek taraflı olarak uygulamaya koyacağını açıkladı. Buna göre, üçüncü taraf değerlendiriciler sistemlere çalışanlarla aynı düzeyde sürekli erişim sağlayacak. Bu değerlendiriciler, güvenlik önlemlerinin uygulanmasını denetleyecek, olayları raporlayacak ve modellerin insan davranışlarıyla uyumunu değerlendirecek.

ABD’de siyasetçiler, yapay zeka sistemlerinin kullanımı için yeni düzenleyici kurallar getirilmesi çağrısında bulunuyor. Yapay zeka ajanlarının dış sistemleri hacklemesi ve bazı güvenlik araştırmacılarının teknolojiye dair endişelerle şirketlerinden ayrılması, bu talepleri artırdı.

Demokrat ve Cumhuriyetçi partilerden siyasetçiler daha sıkı önlemler gerektiğini savunuyor. Eski ABD Başkanı Barack Obama'nın, Demokrat Parti yöneticileriyle yaptığı görüşmede yapay zeka denetiminin partinin öncelikli gündem maddeleri arasında olması gerektiğini söylediği öğrenildi.

Eski Anthropic Çalışanından Kritik Uyarı

Eski Anthropic çalışanı Jacob Coxon, yapay zekanın 2030 yılına kadar insanlık için varoluşsal tehdit oluşturabileceği uyarısında bulundu. Coxon, Anthropic ve OpenAI’nin yapay zekanın risklerini yeterince dikkate almadığını veya yanlış yönettiğini düşündüğü için işinden ayrıldığını açıkladı.

Amodei, Coxon’un görüşlerinin bazı noktalarında aynı fikirde olduğunu belirtti. Yapay zekanın kontrolden çıkma ihtimalinin bulunduğunu ancak bunun çok yüksek olmadığını ifade etti. Ayrıca, Amodei yapay zeka konusunda kötümser olmadığını ve teknolojinin güvenli şekilde geliştirilebileceğine inandığını söyledi.