OpenAI, gizli operasyonlarda yapay zekanın kötüye kullanımını engelliyor
CEO Sam Altman tarafından yönetilen yapay zeka firması OpenAI, Perşembe günü yaptığı açıklamada beş gizli etki operasyonunu başarıyla bozduğunu duyurdu. Rusya, Çin, İran ve İsrail’den tehdit aktörlerine atfedilen bu operasyonlar, OpenAI’nin yapay zeka modellerini internette aldatıcı faaliyetler için kullanmaya çalıştı. Geçtiğimiz üç ay boyunca, yapay zeka kısa yorumlar, çeşitli dillerde kapsamlı makaleler ve sosyal medya hesapları için uydurma isimler ve biyografiler oluşturmak için kullanıldı.
Kampanyalar, Rusya’nın Ukrayna’yı işgali, Gazze’deki çatışma, Hindistan’daki seçimler ve Avrupa ve Amerika Birleşik Devletleri’ndeki siyasi dinamikler de dahil olmak üzere çeşitli jeopolitik konuları hedef aldı. OpenAI bu çabaları kamuoyunu manipüle etme ve siyasi sonuçları etkileme girişimleri olarak tanımladı. Şirket, aldatıcı operasyonların hizmetlerini kullanarak izleyici katılımını veya erişimini artırmadığını vurguladı.
Microsoft (NASDAQ:MSFT)’un desteğini alan OpenAI, bu tehditlere yanıt olarak Altman ve diğer yönetim kurulu üyelerinin liderliğinde bir Emniyet ve Güvenlik Komitesi oluşturdu. Komite, firma bir sonraki yapay zeka modelini eğitmeye başlarken Salı günü kuruldu. Bu karar, insan benzeri içerik üretebilen gelişmiş yapay zeka teknolojilerinin kötüye kullanımıyla ilişkili güvenlik riskleri konusunda artan endişelerin altını çiziyor.
OpenAI’nin raporu, aldatıcı kampanyaların yalnızca yapay zeka tarafından üretilen materyallere dayanmadığını, aynı zamanda manuel olarak yazılmış metinleri ve internet kaynaklı memleri de içerdiğini gösteriyor.
Konuyla ilgili bir gelişme olarak, Facebook ve Instagram’ın ana şirketi Meta Platforms, Çarşamba günü platformlarında aldatıcı bir şekilde kullanılan “muhtemelen yapay zeka tarafından oluşturulmuş” içerik tespit ettiğini bildirdi. Bu içerikler arasında, küresel haber kuruluşları ve ABD’li milletvekillerinin paylaşımlarının altında yer alan ve İsrail’in Gazze çatışmasını ele alış biçimini öven yorumlar da yer alıyordu. Meta Platforms’un bulguları üç aylık güvenlik raporunun bir parçasıydı.
Reuters bu makaleye katkıda bulunmuştur.
Bu makale yapay zekanın desteğiyle oluşturulmuş, çevrilmiş ve bir editör tarafından incelenmiştir. Daha fazla bilgi için Şart ve Koşullar bölümümüze bakın.