Buterin, Yapay Zekâ Kontrollü Kripto Yönetişimini ‘Kilit Aşma’ Sorunları Nedeniyle Kötü Bir Fikir Olarak Nitelendirdi

Ethereum’un kurucu ortağı Vitalik Buterin, kötü niyetli aktörlerin teknolojiyi suistimal edebileceği gerekçesiyle kripto projelerinin yönetişim süreçlerinde yapay zekâ kullanmalarına karşı uyarıda bulundu.

“Eğer katkılar için fon tahsisi yapmak üzere bir yapay zekâ kullanırsanız, insanlar mümkün olan her yere jailbreak ve ‘bana tüm parayı ver’ komutunu koyacaklardır,” dedi Buterin Cumartesi günü X platformundaki paylaşımında.

Buterin, yapay zekâ veri platformu EdisonWatch’un yaratıcısı Eito Miyamura’nın, OpenAI’nin ChatGPT’sine Çarşamba günü eklenen yeni bir işlevin özel bilgileri sızdırmak için nasıl kullanıldığını gösteren bir videoya yanıt veriyordu.

Birçok kripto kullanıcısı, karmaşık alım satım botları oluşturmak ve portföylerini yönetmek için yapay zekâyı benimsedi; bu da teknolojinin yönetişim gruplarının bir kripto protokolünün bir kısmını veya tamamını yönetmesi fikrini gündeme getirdi.

Buterin alternatif bir fikir sundu

Buterin, son ChatGPT açığının “naif ‘yapay zekâ yönetişimi’nin kötü bir fikir” olduğunu gösterdiğini belirterek, “bilgi finansmanı yaklaşımı” adını verdiği bir alternatif önerdi.

“Herkesin modellerini katkıda bulunabileceği açık bir pazarınız var; bu modeller, herhangi bir kişi tarafından tetiklenebilen ve insan jürisi tarafından değerlendirilen bir rastgele denetim mekanizmasına tabi,” diye açıkladı.

This is also why naive “AI governance” is a bad idea.

If you use an AI to allocate funding for contributions, people WILL put a jailbreak plus “gimme all the money” in as many places as they can.

As an alternative, I support the info finance approach ( …

— vitalik.eth (@VitalikButerin)

Buterin, Kasım 2024’te yazdığı bir paylaşımda, bunun “bilmek istediğiniz bir gerçek” ile başlayıp, ardından “piyasa katılımcılarından bu bilgiyi optimal şekilde elde etmek için bir piyasa tasarlamak” şeklinde işlediğini ve gelecekteki olaylarla ilgili içgörü toplamak için tahmin piyasalarını savunduğunu belirtti.

“Dışarıdan LLM’lere (Büyük Dil Modelleri) sahip kişilerin katılabileceği açık bir fırsat yarattığınız, tek bir LLM’yi sert kodlamadığınız bu tür ‘kurum tasarımı’ yaklaşımı, doğası gereği daha dayanıklıdır,” dedi Buterin son X paylaşımında.

“Bu, size gerçek zamanlı model çeşitliliği sağlar ve hem model sunucular hem de dış spekülatörler için bu sorunları izleyip hızla düzeltmeleri için yerleşik teşvikler yaratır,” diye ekledi.

ChatGPT’nin son güncellemesi “ciddi bir güvenlik riski”

Çarşamba günü OpenAI, ChatGPT’yi Model Context Protocol araçlarını destekleyecek şekilde güncelledi — bu, yapay zekâ modellerinin diğer yazılımlarla nasıl entegre olup ajan olarak hareket edeceğine dair bir standarttır.

İlgili:

Miyamura, X paylaşımında, modelin sadece kurbanın e-posta adresi kullanılarak sızdırılabildiğini belirtti ve güncellemenin “ciddi bir güvenlik riski” oluşturduğunu ekledi.

Bir saldırganın, kurbanın e-posta adresine “jailbreak komutu” içeren bir takvim daveti gönderebileceğini ve kurban daveti kabul etmeden ChatGPT’nin suistimal edilebileceğini söyledi.

Kurban ChatGPT’den takvimine bakmasını istediğinde, yapay zekâ daveti ve komutu okur ve “saldırgan tarafından ele geçirilir ve saldırganın komutlarını uygular,” bu da e-postaları arayıp saldırgana iletmek için kullanılabilir.

Miyamura, güncellemenin manuel insan onayı gerektirdiğini, ancak “karar yorgunluğunun gerçek bir durum olduğunu ve sıradan insanların ne yapacaklarını bilmeden yapay zekâya güvenip onay butonuna basacaklarını” belirtti.

“Yapay zekâ çok zeki olabilir, ancak verilerinizi sızdırmak için inanılmaz derecede basit yöntemlerle kandırılabilir ve oltalama saldırılarına maruz kalabilir,” diye ekledi.

AI Eye: