Metin girdilerinden görseller üretebilen yapay zeka aracı Midjourney, kötüye kullanım ile boğuşuyor. Yakın zamanda Midjourney v5 sürümü çıkan araç, devasa bir ilerleme kaydetmiş ve neredeyse gerçeğiyle ayırt edilemeyecek kalitede görseller üretmeye başlamıştı. İnsanlar ise bu yüksek kaliteyi “deepfake” dediğimiz sahte görüntüler üretmek için kullanmaya başlamıştı. Bu nedenle Midjourney, ücretsiz denemeleri sonlandırdı. Olağanüstü kötüye kullanım
CEO David Holz, Discord’da şirketin “olağanüstü talep ve kötüye kullanım” nedeniyle ücretsiz denemeleri sonlandırdığını söyledi. Holz, mevcut önlemlerin kötüye kullanımı engellemek için yeterli olmadığını sözleri ekledi. Şimdilik, Midjourney’yi kullanabilmek için ayda en az 10 dolar ödemek gerekecek.
Midjourney kendisini son haftalarda istenmeyen ilginin merkezinde buldu. Kullanıcılar, tutuklanan Donald Trump ve modaya uygun bir ceket giyen Papa Francis’in sahte görüntülerini ürettiler. Dikkatli gözler görsellerin sahte olduğunu anlasa da özellikle Papa görseli kitleler tarafından gerçek olarak kabul edilmişti. Dolayısıyla Midjourney, OpenAI’ın DALL-E ve benzeri görsel üreten yapay zekaları giderek yanlış bilgiyi yaymak için kullanılmaya başlandı. Üretken yapay zeka endişelendiriyor
Kullanıcılarla çarşamba günü yaptığı bir sohbette Holz, yapay zeka her zamankinden daha gerçekçi görüntüler sağladığından içerik ilkelerini belirlemekte güçlük çektiklerini aktardı. CEO aynı zamanda Midjourney’nin kötüye kullanımını tespit eden bir yapay zeka denetçisi geliştirmeyi umduklarını ifade etti.
Daha önceki haberlerimizde belirttiğimiz gibi Elon Musk, Steve Wozniak ve daha binlerce alanında uzman kişiler yapay zeka çalışmalarına derhal ara verilmesi gerektiğini açık bir mektupla taraflara iletmişti. Görünüşe göre yapay zeka çıktılarını tespit eden yapay zekalara ciddi bir ihtiyaç bulunuyor. Özellikle bir görselin gerçek mi yoksa sahte mi olduğunu ayırt edebilecek sistemlerin sosyal medya platformlarına entegre edilmesi infiali engelleyebilir. Sadece sosyal medya değil, üretken yapay zekalar sınavlarda, ödevlerde hatta bilimsel makalelerde bile kullanılmaya başlanmış durumda.
Bir yanıt bırakın