Microsoft, Azure OpenAI hizmetlerine yasa dışı erişim sağlayarak içerik oluşturma siyasetlerini ihlal eden bir küme hakkında yasal süreç başlattı. Şirket, ABD’nin Virginia Doğu Bölgesi Federal Mahkemesi’ne sunduğu dava evrakında, bu kümenin çalınan müşteri kimlik bilgilerini ve özel yazılımları kullanarak sistemlerini hacklediğini ve ziyanlı içerikler oluşturduğunu belirtti. Detaylar haberimizde…
Microsoft, AI hizmetlerini hackleyen bir kümeye dava açtı
İlk olarak Microsoft, yapılan soruşturmada, saldırganların API anahtarlarını çalarak Azure OpenAI hizmetlerine erişim sağladığını tespit etti. Bahsi geçen API anahtarları, Microsoft’un ChatGPT ve başka yapay zeka modri üzere hizmetlerine erişim için kullanılıyor. Çalınan anahtarlar sayesinde küme, içerik filtreleme sistemlerini aşarak yasa dışı ve ziyanlı içerikler üretmek için sistemi berbata kullandı.
Grup ayrıyeten, de3u ismini verdikleri bir yazılım aracı geliştirmiş. Bu araç, çalınan API anahtarlarını kullanarak rastgele bir programlama bilgisi olmadan DALL-E modelinden manzara oluşturmayı sağlamış. Ayrıyeten, içerik filtrelerini baypas ederek zararlı görsrin oluşturulmasını kolaylaştırmış.
Microsoft DirectX için değerli güncme! Grafik sonlarını zorlayacak
Microsoft DirectX işbirlikçi vektörler dayanağıyla geliyor. Sinirsel sürece teknolojisi grafik süreçlerinin sonlarını zorlayacak.
Microsoft, saldırganların oluşturduğu yazılımın GitHub’daki kod deposunu kapattı ve taarruzlara karşı “karşı önlemler” aldığını duyurdu. Şirket ayrıyeten, mahkeme onayıyla hatalıların operasyonlarını kolaylaştıran bir web sitesine de el koydu. Şu anda bu web sitesi üzerinden kanıt toplama ve hatalıların gelir modrini tahlil etme çalışmaları yürütülüyor.
Ayrıca, Microsoft, Azure OpenAI hizmetine yönelik yeni güvenlik tedbirleri uygulamaya başladığını belirtti, fakat bu yeni önlemlerin ayrıntılarına dair bilgi vermedi. Microsoft’un yaptığı açıklamalara nazaran, küme çalınan API anahtarlarını kullanarak “hizmet olarak hackleme” modeli geliştirmiş. Bu sistemle kullanıcılar, kod yazmaya gerek kalmadan yasa dışı içerik üretim süreçlerine dahil olabiliyor.
Sizce Microsoft’un aldığı bu tedbirler, AI güvenliği için kâfi mi? Yorumlarınızı aşağıdaki kısımda paylaşabilirsiniz…
