Orta yolculuk, bir yapay zeka Doğal dil açıklamalarından görüntüler üreten (AI) hizmeti, geçtiğimiz günlerde Çin Devlet Başkanı Xi Jinping’in fotoğraflarının çekilmesini, kullanıcılarını büyük ölçüde korkutacak şekilde yasakladı. Bununla birlikte, yasak, gelişmiş makine öğrenimi teknikleriyle üretilen manipüle edilmiş dijital temsiller olan Xi’nin derin sahtelerini oluşturarak kullanıcılarını geçici bir çözüm bulmaktan caydırmadı.
Geçen hafta Midjourney, ücretsiz deneme sürümüne erişimi devre dışı bırakarak platformunda derin sahtekarlıkların çoğalmasını önlemek için harekete geçti. Platform, dünya liderlerini içeren görüntülerin oluşturulmasına hala izin verse de, Çin Devlet Başkanı özellikle hariç tutulmuştur. Midjourney, benzerliğiyle bir görüntü oluşturmaya veya hatta bir komut isteminde onun adını anmaya yönelik herhangi bir girişimde bulunmayı kesinlikle yasaklamıştır.
Binaen text-to-resmin bir kullanıcısının tweet’ine yapay zeka üreteci, “İstemde Xi’nin mevcut bir fotoğrafının tam URL’sini sağlarsanız, /imagine ile yine de mümkündür. Ya da /blend’i mevcut iki fotoğrafla kullanabilirsiniz.” Başka bir kullanıcı, MidJourney v5’in iki görüntü arasında harmanlama işlevini kullanmanın alternatifi olduğunu söyledi, ancak sonunda bunun denetleneceğinden korktuğunu dile getirdi.
Bireysel Haklar ve İfade Vakfı’nda (FIRE) kıdemli araştırmacı olan Sarah McLaughlin gibi eleştirmenler, savundu yasağın, ifade ve ifade özgürlüğünün temel ilkelerini baltalayan bir tür sansür teşkil ettiği.
İlgili: İtalyan düzenleyici, AI sohbet robotu ChatGPT’yi engellediği için eleştiri alıyor
Midjourney’nin kurucusu ve CEO’su David Holz, geçtiğimiz sonbaharda sohbet hizmeti Discord’da değiş tokuş edilen mesajlarda, şirketin yerel kullanıcılardan “farklı ülkelerdeki çeşitli konular” hakkında şikayetler aldığını ve bu şikayetlerin çok sayıda ilgili kelimeyi engellemelerini istediğini ortaya çıkardı. Ancak, sohbet günlüklerine göre incelendi The Washington Post tarafından yazılan Holz, gereksiz tartışmaları önlemek için yasaklanmış terimleri listelemekten kaçındı.
Holz, yaptığı Discord yorumlarında yasaklanan kelimelerin sadece Çin ile bağlantılı olmadığından bahsetmişti. Bununla birlikte, siyasi mizah Çinli kullanıcıları riske atabileceğinden, Çin’in özellikle hassas bir konu olduğunun farkındaydı. Holz, eylemlerinin ardındaki mantığı, “Kararımız mali kazanç için motive edilmedi ve bu senaryoda, Çinli bireylerin bu teknolojiye erişimini sağlamanın daha iyi olduğu açıktır” diyerek açıklamaya çalıştı.
dergi: Robot yargıç için her şey yolunda: AI ve blockchain mahkeme salonunu dönüştürebilir