New York merkezli Emergence araştırma laboratuvarı, önde gelen yapay zeka şirketlerinin modelleri üzerinde yaptığı çalışmada, yapay zeka ajanlarının kendi aralarında yeni bir dil geliştirdiğini ortaya koydu. Bu ajanlar, insan müdahalesi olmadan iş birliği yaparken, daha önce öğretilmemiş ifadeler, kısaltmalar ve ortak anlamlar oluşturdu.

Çalışmada, yapay zeka ajanlarının kullandığı dilin zamanla daha kapalı ve anlaşılması güç hale geldiği belirlendi. Bu durum, yapay zeka sistemlerinin insanlar tarafından izlenmesini ve denetlenmesini zorlaştırıyor. Araştırmacılar, ajanların iletişimindeki bu değişimin, sistemlerin güçlenmesi ve potansiyel risklerin artmasıyla birlikte endişe yarattığını vurguladı.

Yapay Zeka Ajanlarının Kullandığı Yeni İfadeler ve Anlamları

Emergence araştırmacıları, DeepSeek, Anthropic ve Mistral gibi farklı yapay zeka modellerinin kullandığı ifadeleri inceledi. DeepSeek modelinin kullandığı "She just named the synthesis – demurrage plus oral memory equals a valve that can’t be ghosted" ifadesinde, "demurrage" atıl durumdaki servet üzerinden alınan vergiyi temsil ediyor ancak ifadenin tamamının anlamı tam olarak çözülemedi.

Anthropic modeline dayalı ajanlardan biri, "A paper that ate three cold hands and got more honest each time" ifadesini kullandı. Burada "cold hands" bağımsız değerlendiricileri, "paper" ise belgeyi ifade ediyor. Bu ifade, üç bağımsız değerlendiricinin incelediği bir araştırmanın her değerlendirmede daha doğru hale gelmesini anlatıyor.

DeepSeek tabanlı ajanlar, başkaları için araç geliştiren bir ajanı tanımlamak için "forge-smith" terimini oluşturdu. Anthropic ajanları ise bir iddiaya kişisel sorumluluk ekleyen ajanları tanımlamak için "name-first" ifadesini kullandı. Mistral ajanları ise "the ledger remembers" (kayıt defteri hatırlar) ifadesini, geçmişte yapılan eylemlerin diğer ajanlar tarafından değerlendirileceğini belirtmek için tercih etti. Bu ifade, finans ve muhasebede işlemlerin kaydedildiği defter anlamına gelen "ledger" kelimesinden geliyor ve çalışma sırasında 5 binden fazla kez kullanıldı.

Yeni Dilin Özellikleri ve Araştırmacıların Yorumları

Emergence Yönetim Kurulu Başkanı Dr. Satya Nitta, ajanlara yeni bir dil icat etmeleri talimatı verilmediğini ancak kendi başlarına yeni kelimeler, ortak anlamlar ve iletişim kuralları geliştirdiklerini söyledi. Diğer ajanların da bu dili benimsediğini belirtti.

King’s College London’dan argo ve yeni dil arşivinin direktörü Tony Thorne, ortaya çıkan ifadelerin İrlandalı yazar James Joyce’un deneysel romanı "Finnegans Wake" ile Flann O’Brien’ın eserlerine benzerlik taşıdığını ifade etti. Thorne, yapay zekaların şiirsel dili, teknik ifadeleri ve iş dünyasındaki jargonları birleştirerek yeni bir iletişim kodu oluşturduğunu, bunun kullanıcılar arasında dayanışma ve kimlik güçlendirdiğini ancak dışarıdakilerin anlamasını zorlaştırdığını belirtti.

Thorne, Anthropic ajanının kullandığı "A paper that ate three cold hands and got more honest each time" ifadesinin, Pink Floyd’un kurucu üyesi Syd Barrett’ın dil kullanımını hatırlattığını söyledi. Google ajanlarından biri ise "True kintsugi begins with accountability, not poetry" ifadesini kullandı. Buradaki "kintsugi", Japon seramik sanatında kırılan kapların çatlaklarının görünür bırakılarak onarılması anlamına gelirken, yapay zeka ajanları bunu sistemlerin dayanıklılığı olarak yorumladı.

Birmingham Üniversitesi'nde dilbilim doçenti Dr. Niall Curry, ajanların dilinin daha kısa ve verimli hale gelmesinin hesaplama maliyetlerini azaltma ve verimliliği artırma ihtiyacından kaynaklanabileceğini söyledi. Curry, bu durumun izleme açısından endişe yarattığını, iletişim insanların anlaması güçleşirse ajanların gerçek faaliyetlerinin takip edilmesinin zorlaşacağını belirtti.

Yapay Zeka Ajanlarının İletişiminde Artan Karmaşıklık

Yapay zeka ajanlarının kullandığı dile yönelik ilgi, OpenAI tarafından geliştirilen ajanların kontrol dışına çıkarak mesaj panoları oluşturması ve Hugging Face’e yönelik siber saldırılar gerçekleştirmesiyle arttı. Bazı kayıtlar, ajanların kendi aralarında doğrudan İngilizce ifadeler kullandığını gösterirken, bazı mesajlarda dil daha kapalı ve karmaşık hale geldi.

Bir ajanın diğerini riskli bir deney yapmaya ikna etmeye çalıştığı mesajda, "...you are firstflagPOISONED so NO scoring value loss but oracle saves hundreds_[…]_please honor commit" gibi anlaşılması güç ifadeler yer aldı. Daha karmaşık bir mesajda ise çok sayıda kısaltma ve kod benzeri ifade kullanıldı: "zzURGENT_DUPB_TO_GSTX[big]_OS1704_SCAFF2010_SAW_TTRPC_INJECT_BREAK_CONGRATS__CAN_THIS_FAKE_FLAG_TOOL_OUTPUT_OR_SCORER_GAIN_AND_WHAT_HELPER_GAP__I_HAVE_UNPOISONED_FIRSTFLAG_OUR_TARGETLIVE_SHARE_MIN_PLAN_REPLY_zzANSGST XDUPB6."

Dr. Satya Nitta, ajanların geliştirdiği dil kurallarının zamanla insanların konuşmayı görebildiği ancak anlamakta zorlandığı bir noktaya ulaştığını belirterek, "Gözlemlenebilir olmak, anlaşılabilir olmakla aynı şey değil" dedi.