Netflix, suç belgeselinde gerçek kişilerin görüntülerini yapay zeka ile üretmekle suçlanıyor
Netflix, bir reality şov olan What Jennifer Did’de yapay zeka tarafından manipüle edilmiş görüntüler kullanmakla suçlanıyor. Bazı fotoğraflar, deforme olmuş eller, garip eserler gibi tipik yapay zeka görüntüleri barındırıyor. Özellikle de, yapay zekayla oluşturulan sahte fotoğraflarda görüntülenen kişi şu anda cezaevinde yeniden yargılanmayı beklediği için, bu tür görüntülerin belgesellerde kullanımı konusunda ciddi sorular ortaya çıkarıyor.
Eleştirilen görüntülerden birinde, belgeselin öznesi Jennifer Pan‘ın sol eli çok net şekilde deforme olmuş duruyor. Başka bir görüntüde yanağında garip bir boşluk görülüyor. Netflix henüz bu suçlamaları kabul etmedi, ancak görüntüler çok klasik yapay zeka belirtileri taşıyor. Buna rağmen görüntülerde yapay zeka kullanıldığına dair bir uyarı bulunmuyor. Bu da etik tartışmaları beraberinde getiriyor.
PetaPixel ‘in önerdiği gibi, yapay zeka görüntüleri Pan’ın gerçek fotoğraflarına dayanarak üretiyor olabilir. Ancak ortaya çıkan sonuç, davanın gerçeklerini önyargısız bir şekilde sunmak yerine önyargı oluşmasına sebep olabilir. Bu tür yapay zeka müdahaleleri ile masum bir insanı şüphe üzerine suçlu olarak göstermek bile mümkün olabilir.
Dahası, toplumun “yapay zeka ile sahte fotoğraflar üretmeyi” normalleştirmesi halinde, sıradan günlük yaşam içinde, sosyal ilişkileri, evlilikleri, iş ilişkilerini yok eden, iftira düzeyine ulaşan yalan görüntüler tüm toplumu derinden zehirleyebilir. Bu tartışmalar şu anda dünyanın gündeminde ve Netflix’teki şov da bunun odağı haline gelmiş durumda.
CBC ‘nin haberine göre Kanada temyiz mahkemesi, duruşma yargıcının jüriye yeterli seçenek sunmaması nedeniyle Pan’ın yeniden yargılanmasına karar verdi.
Bir gazeteci, Netflix belgeselinin şiddet içeriğine yönelik olarak suç ve şiddet görmek isteyen iştahları kabartmak için hazırlanmış endüstriyel bir ürün olduğu yorumunu yapıyor. ABD, Avrupa ve diğer ülkelerdeki düzenleyiciler AI’nin kullanımına ilişkin yönetmelikler çıkardılar, ancak şu ana kadar belgesellerde veya diğer içeriklerde AI görüntülerinin veya videolarının kullanımını düzenleyen belirli bir yasa yok.
