Suçlular, Yapay Zeka ile Eşi Benzeri Görülmemiş Düzeyde ‘Vibe Hacking’ Yapıyor: Anthropic

“Gelişmiş” koruma önlemlerine rağmen, yapay zeka altyapı firması Anthropic, siber suçluların AI sohbet botu Claude’u kötüye kullanarak büyük çaplı siber saldırılar düzenlemenin yollarını bulmaya devam ettiğini belirtiyor.

Çarşamba günü yayımlanan “Tehdit İstihbaratı” raporunda, Anthropic’in Tehdit İstihbaratı ekibinden Alex Moix, Ken Lebedev ve Jacob Klein, suçluların Claude sohbet botunu kötüye kullandığı birkaç vakayı paylaştı; bazı saldırılarda fidye talepleri 500.000 doları aşıyordu.

Botun sadece suçlulara teknik tavsiye sağlamakla kalmayıp, aynı zamanda “vibe hacking” yöntemiyle onların adına doğrudan saldırılar gerçekleştirmek için kullanıldığı tespit edildi. Bu sayede temel düzeyde kodlama ve şifreleme bilgisine sahip olanlar bile saldırılar yapabiliyor.

Şubat ayında, blokzincir güvenlik firması Chainalysis, üretken yapay zekanın saldırıları daha ölçeklenebilir ve uygun maliyetli hale getirmesi nedeniyle 2025’te kripto dolandırıcılıklarının artacağını öngörmüştü.

Anthropic, Claude ile “vibe hacking” yapan bir hacker’ın en az 17 kurumdan — sağlık, acil servisler, devlet ve dini kurumlar dahil — hassas veriler çaldığını ve fidye taleplerinin 75.000 ile 500.000 dolar arasında Bitcoin olarak değiştiğini açıkladı.

Hacker, Claude’u çalınan finansal kayıtları değerlendirmek, uygun fidye miktarlarını hesaplamak ve psikolojik baskıyı maksimize etmek için özel fidye notları yazmak üzere eğitti.

Anthropic daha sonra saldırganı yasaklamış olsa da, bu olay yapay zekanın en temel seviyedeki kodlayıcıların bile siber suçları “eşi benzeri görülmemiş bir düzeyde” gerçekleştirmesini kolaylaştırdığını gösteriyor.

“Temel şifrelemeyi bağımsız olarak uygulayamayan veya syscall mekaniklerini anlayamayan aktörler artık kaçınma yeteneklerine sahip fidye yazılımları oluşturuyor ve anti-analiz tekniklerini uyguluyor.”

Kuzey Koreli BT Çalışanları da Anthropic’in Claude’unu Kullandı

Anthropic ayrıca Kuzey Koreli BT çalışanlarının Claude’u ikna edici kimlikler oluşturmak, teknik kodlama testlerini geçmek ve ABD Fortune 500 teknoloji şirketlerinde uzaktan pozisyonlar elde etmek için kullandığını tespit etti. Ayrıca bu pozisyonlar için mülakat cevaplarını hazırlamakta da Claude’dan yararlandılar.

Anthropic, işe alındıktan sonra teknik işleri yürütmek için de Claude’un kullanıldığını belirtti ve bu istihdam düzeneklerinin uluslararası yaptırımlara rağmen Kuzey Kore rejimine gelir sağlamak amacıyla tasarlandığını vurguladı.

Bu ayın başlarında, Kuzey Koreli bir BT çalışanı üzerine yapılan bir araştırmada, altı kişilik bir ekibin en az 31 sahte kimlik paylaştığı, gerçek kimliklerini gizlemek ve kripto işleri kapmak için telefon numaralarından LinkedIn ve UpWork hesaplarına kadar her şeyi temin ettiği ortaya çıktı.

İlgili:

Çalışanlardan biri Polygon Labs’da tam yığın mühendis pozisyonu için mülakat yapmış gibi görünürken, diğer kanıtlar onların deneyimlerini ve blokzincir şirketi Chainlink’teki geçmişlerini iddia ettikleri senaryolaştırılmış mülakat cevaplarını gösterdi.

Anthropic, yeni raporunun kötüye kullanım vakalarını kamuoyuyla paylaşarak daha geniş yapay zeka güvenliği ve emniyeti topluluğuna yardımcı olmayı ve sektörün yapay zeka kötüye kullananlara karşı savunmasını güçlendirmeyi amaçladığını belirtti.

“Gelişmiş güvenlik ve emniyet önlemleri” uygulamalarına rağmen kötü niyetli aktörlerin bunların etrafından dolaşmanın yollarını bulmaya devam ettiğini söyledi.

Dergi: