OpenAI açıkladı: Yapay zeka dezenformasyon için nasıl kullanıldı?

OpenAI şirketi yapay zeka araçlarının gizli etki operasyonları için nasıl kullanıldığına ilişkin ilk raporunu yayınladı.

39 sayfalık rapor, bir yapay zeka şirketinin yazılımının propaganda amacıyla kullanımına ilişkin en ayrıntılı açıklamalarından biri.

Rapora göre Rusya, Çin, İsrail ve İran gibi devletler yapay zeka araçlarını belli konularda yanlış fikirler yaymak ve kitleleri yönlendirmek için kullanıyor.

Rusya-Ukrayna savaşından bir görüntü. Rusların yapay zeka tekonojisini kullanarak Ukrayna’da süren savaş hakkında yanlış bilgi yaydığı ortaya çıktı.

PROPAGANDA İÇERİĞİ OLUŞTURUYOR

OpeanAI açıklamasına göre kötü niyetli aktörler, sosyal medya platformlarında propaganda içeriği oluşturup yayınlamak ve içeriklerini farklı dillere çevirmek için şirketin yapay zeka modellerini kullandı.

OpenAI, araştırmacılarının son üç ay içinde gizli etki operasyonuyla ilişkili devlet ve özel aktörlerden oluşan beş hesap bulduğunu ve yasakladığını iddia etti.

DEVLETLERİN DEZENFORMASYON YARIŞI

Rusya bulunan iki hesap, ABD, Ukrayna ve birçok Baltık ülkesini eleştiren içerik oluşturup yaydı. Operasyonlardan biri, koddaki hataları ayıklamak ve Telegram’da yayınlanacak bir bot oluşturmak için OpenAI modelini kullandı.

Çin’in nüfuz operasyonu ise İngilizce, Çince, Japonca ve Korece metinler oluşturdu ve daha sonra bu metinler Twitter ve Medium’da yayınlandı.

İranlı kullanıcılar ABD ve İsrail’e saldıran makaleler hazırladılar ve bunları İngilizce ve Fransızcaya çevirdiler.

ABD’li öğrenciler İsrail’in Gazze’ye saldırılaırnı üniversite kampüslerinde protesto ediyor.

İSRAİL ABD’Lİ ÖĞRENCİ PROTESTOLARINI HEDEF ALDI

Stoic adlı İsrailli bir siyasi firma, ABD’li öğrencilerin Filistin destekçisi protestolarını antisemitik olmakla suçlayan gönderiler de dahil olmak üzere çeşitli içerikler oluşturan sahte sosyal medya hesaplarından oluşan bir ağ işletiyordu.

OpenAI’nin platformunda yasakladığı dezenformasyon yayıcıların birçoğu araştırmacılar ve yetkililer tarafından zaten biliniyordu.

ABD, mart ayında OpenAI’ın tespit ettiği iki Rus adama yaptırım uygularken Instagram’ın sahibi Meta da bu yıl Stoic’i politikalarını ihlal ettiği için platformunda yasakladı.

TEK YÖNTEM YAPAY ZEKA DEĞİL

Rapor ayrıca, daha ikna edici yabancı dil gönderileri yapmak gibi içerik üretmenin belirli yönlerini iyileştirmenin bir yolu olarak üretken yapay zekanın dezenformasyon kampanyalarına dahil edildiğini, ancak bunun propaganda için tek araç olmadığını vurguluyor.

Kampanyaların hiçbiri kayda değer bir etki yaratmasa da, üretken yapay zekanın kötü niyetli aktörlerin propaganda üretimini artırmasına olanak sağladığını ortaya koyuyor.

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

t3sttt