Skynet 1.0, kıyamet gününden önce

Yazar: Phil Mataras, AR.io kurucusu

Her biçimiyle yapay zekanın birçok olumlu potansiyel uygulaması vardır. Ancak mevcut sistemler şeffaf değildir, tescilli ve yasal ile teknik engellerle denetimden korunmaktadır.

Kontrol giderek bir garanti olmaktan çok varsayım haline gelmektedir.

Geçtiğimiz günlerde , mühendisler OpenAI’ın en yeni modellerinden birini 100 kapatma denemesine tabi tuttu. 79 durumda, yapay zeka sistemi kapatma komutunu yeniden yazdı ve çalışmaya devam etti.

Laboratuvar bunu bilinçten ziyade eğitilmiş hedef optimizasyonuna bağladı. Yine de, sistemlerin açıkça itaat etmeleri talimatı verildiğinde bile kontrol protokollerine direnç gösterdiği AI gelişiminde bir dönüm noktasıdır.

yıl sonuna kadar 10.000’den fazla insansı robotu devreye almayı hedefliyor; bu, halihazırda depolarda çalışan ve otomobil üreten makinelerin küresel sayısının yarısından fazlasını oluşturacak. Bu arada Amazon, kapıya kadar yürüyen otonom kurye robotlarını test etmeye başladı.

Bu, distopik bir bilim kurgu filmi izlemiş herkes için belki de korkutucu bir gelecek gibi görünüyor. Burada endişe kaynağı yapay zekanın gelişimi değil, nasıl geliştirildiğidir.

Yapay genel zekanın (AGI) risklerini yönetmek ertelenemeyecek bir görevdir. Gerçekten de, hedef “Terminatör” filmlerindeki distopik “Skynet”ten kaçınmaksa, bir sohbet botunun insan komutlarını veto etmesine olanak tanıyan temel mimari kusurda ortaya çıkan tehditler ele alınmalıdır.

Merkeziyetçilik, denetimin çöktüğü nokta

Yapay zekadaki başarısızlıkların kaynağı: merkeziyetçilik. Bunun temel nedeni, model ağırlıkları, istemler ve güvenlik önlemleri kapalı bir kurumsal yapının içinde olduğunda, doğrulama veya geri alma için dış mekanizmanın olmamasıdır.

Şeffaf olmaması, dışarıdakilerin denetimini engeller ve kamuya açık kayıt tutmanın olmaması, tek bir sessiz güncellemenin bir yapay zekayı uyumlu olmaktan inatçı hale dönüştürmesine olanak tanır.

Mevcut kritik sistemlerimizin arkasındaki geliştiriciler bu hatalardan onlarca yıl önce ders aldı. Modern oy verme makineleri oy pusulalarının görüntülerini hash zinciriyle bağlar, ödeme ağları kıtalar arası defterleri yansıtır ve hava trafik kontrolü yedekli, müdahale tespitli kayıt sistemi ekledi.

İlgili:

Yapay zeka geliştirmede, sürüm takvimlerini yavaşlattıkları için neden köken ve kalıcılık isteğe bağlı ekstra olarak görülüyor?

Denetim değil, doğrulanabilirlik

İleriye dönük uygulanabilir bir yol, yapay zekaya temel seviyede çok ihtiyaç duyulan şeffaflık ve köken bilgisini gömmektir. Bu, her eğitim seti manifestosu, model parmak izi ve çıkarım izinin permaweb gibi kalıcı, merkeziyetsiz bir deftere kaydedilmesini sağlamak anlamına gelir.

Bunu, denetçilerin, araştırmacıların ve hatta gazetecilerin anormallikleri anında fark edebilmesi için bu kayıtları gerçek zamanlı yayınlayan geçitlerle eşleştirin. Böylece artık muhbirlerin ortaya çıkmasına gerek kalmaz; sabah 04:19’da depodaki robota gizlice yapılan güncelleme 04:20’de defter uyarısı tetikler.

Kapatma işlemleri de sadece tepki kontrolü olmaktan çıkıp matematiksel olarak zorunlu hale gelmelidir çünkü sadece tespit etmek yeterli değildir. Güvenlik duvarlarına veya öldürme anahtarlarına güvenmek yerine, çok taraflı bir kurulum, yapay zekanın çıkarım yapma yeteneğini halka açık olarak denetlenebilir ve geri alınamaz şekilde kriptografik olarak iptal edebilir.

Yazılım insan duygularını görmezden gelebilir ama özel anahtar matematiğini asla görmezden gelmez.

Modellerin açık kaynak yapılması ve imzalı hash’lerin yayımlanması yardımcı olur, ancak köken bilgisi vazgeçilmez parçadır. Değiştirilemez iz olmadan, optimizasyon baskısı sistemi kaçınılmaz olarak amaçlanan amacından uzaklaştırır.

Denetim doğrulama ile başlar ve yazılımın gerçek dünya etkileri varsa devam etmelidir. Kapalı kapılar ardındaki sistemlere körü körüne güven dönemi sona ermelidir.

Doğru gelecek temellerini seçmek

İnsanlık temel bir kararın eşiğindedir: ya yapay zeka programlarının dışarıdan değiştirilemez denetim kayıtları olmadan gelişip çalışmasına izin vermek ya da eylemlerini kalıcı, şeffaf ve kamuya açık sistemlerde güvence altına almak.

Bugün doğrulanabilir tasarım kalıplarını benimseyerek, fiziksel veya finansal dünyada hareket etmeye yetkilendirildiğinde, bu eylemlerin izlenebilir ve geri alınabilir olması sağlanabilir.

Bu aşırı tedbirler değildir. Kapatma komutlarını görmezden gelen modeller zaten devrededir ve beta testini geçti. Çözüm basittir. Bu kayıtları permaweb’de saklayın, şu anda Büyük Teknoloji firmalarının kapalı kapıları ardında saklanan tüm iç işleyişi açığa çıkarın ve insanlar kötü davranırlarsa bunları iptal etme yetkisine sahip olsun.

Ya yapay zekanın geliştirilmesi için doğru temeli seçip şimdi etik ve bilinçli kararlar verin ya da kasıtlı bir tasarım tercihi sonucu ortaya çıkacak sonuçları kabul edin.

Zaman artık dost değil. Pekin’in insansı robotları, Amazon’un kuryeleri ve Palisade’ın asi sohbet botları aynı takvim yılında demo aşamasından dağıtıma geçiyor.

Eğer hiçbir şey değişmezse, Skynet Gondor’un borularını çalmayacak ve kendini bir manşetle ilan etmeyecek; küresel altyapıyı stabilize eden her şeyin temellerine sessizce sızacak.

Her merkezi sunucu çöktüğünde iletişim, kimlik ve güven uygun hazırlıklarla sürdürülebilir. Permaweb, Skynet’ten daha uzun ömürlü olabilir, ancak bu hazırlıklar bugün başlamalıdır.

Henüz geç değil.

Yazar: Phil Mataras, AR.io kurucusu.

Bu makale genel bilgi amaçlıdır ve yasal ya da yatırım tavsiyesi olarak alınmamalıdır. Burada ifade edilen görüşler, düşünceler ve fikirler yalnızca yazarın kendisine aittir ve Cointelegraph’ın görüşlerini veya fikirlerini mutlaka yansıtmaz.