Meta’nın yeni görsel oluşturma modeli Muse Image ile kullanıma sunduğu bir özellik, gizlilik tartışmalarının ardından yalnızca birkaç gün içinde geri çekildi.
Özellik, kullanıcıların Instagram’daki herkese açık bir hesabı “@” işaretiyle etiketlemesine ve bu hesaptaki profil fotoğraflarını YZ ile oluşturulan yeni görüntülerde referans olarak kullanmasına imkân tanıyordu.
Böylece bir kişinin ayrıca izin vermesine gerek kalmadan yüzüne benzeyen yeni görüntüler üretilebiliyordu. Özelliğin kullanıcı hesaplarında varsayılan olarak etkinleştirildiği ve kullanılmak istemeyenlerin ayarlardan kapatması gerektiği yönündeki iddialar da tepkilerin büyümesine neden oldu.
En güncel haberlere ve son dakika gelişmelerine Google üzerinden anında ulaşmak için bizi favorilerinize ekleyin.
kaynak olarak ekleyin
ÜÇ GÜN DAYANDI
Meta’nın salı günü kullanıma sunduğu özellik, özellikle oyuncuların ve sanatçıların tepkisini çekti.
Oyuncu Hannah Einbinder, sistemin açık ve anlaşılır bir onay alınmadan devreye sokulduğunu savunarak SAG-AFTRA üyelerine ve diğer Instagram kullanıcılarına özelliği kapatmaları çağrısında bulundu.
Tartışmaların odağında yalnızca ünlülerin fotoğrafları yoktu. Herkese açık hesaba sahip sıradan kullanıcıların, çocukların ve gençlerin fotoğraflarının da başka kişiler tarafından YZ içeriklerinde kullanılabilecek olması endişe yarattı.
Meta bunun üzerine 10 Temmuz’da başka Instagram hesaplarının fotoğraflarını Muse Image içinde referans olarak kullanma özelliğini kaldırdı.
Ancak şirket Muse Image modelini tamamen kapatmadı. Kullanıcılar hâlâ metin komutlarıyla görsel oluşturabiliyor, kendi yükledikleri fotoğrafları düzenleyebiliyor ve farklı YZ efektlerinden yararlanabiliyor.
AÇIK HESAP ONAY DEĞİL
Konuyu değerlendiren Bilişim Uzmanı Osman Demircan, sosyal medya hesabının herkese açık olmasının, paylaşılan fotoğrafın her türlü amaçla serbestçe kullanılabileceği anlamına gelmediğini belirtti.
Demircan’a göre kullanıcı, fotoğrafını Instagram’da görülmesi amacıyla paylaşmış olabilir. Ancak bu durum, yüzünün bir YZ sistemi tarafından işlenmesine, değiştirilmesine veya hiç bulunmadığı bir ortamdaymış gibi gösterilmesine otomatik olarak izin verdiği anlamına gelmiyor.
Buradaki temel sorunun kullanım amacı olduğunu belirten Demircan, bir fotoğrafın görülebilir olmasıyla yeni bir içerik üretmek üzere işlenmesi arasında önemli bir fark bulunduğuna dikkat çekti.
Bu nedenle kullanıcılara yalnızca özelliği sonradan kapatma seçeneği sunulmasının yeterli olmadığını ifade eden Demircan, bu tür sistemlerin baştan kapalı olması ve yalnızca kişinin açık, anlaşılır ve bilgilendirilmiş onayıyla etkinleştirilmesi gerektiğini söyledi.
Başka bir ifadeyle, sistemin “itiraz etmeyen kabul etmiş sayılır” yaklaşımıyla değil, “açıkça kabul eden kullanabilir” yöntemiyle çalışması gerekiyor.
SAHTE İÇERİK RİSKİ
Muse Image gibi sistemlerin bir kişinin yüzüne benzeyen gerçekçi görüntüler oluşturabilmesi, konuyu yalnızca gizlilik tartışması olmaktan çıkarıyor.
Demircan, bu teknolojiyle hazırlanan içeriklerin bir kişiyi hiç gitmediği bir yerde, hiç tanımadığı kişilerle veya gerçekte yaşanmamış bir olayın içindeymiş gibi gösterebileceğini belirtti.
Bu tür görüntüler özellikle sosyal medyada bağlamından koparıldığında gerçekmiş gibi algılanabiliyor. Ortaya çıkan içerikler itibar saldırısı, zorbalık, taciz ve yanlış bilgilendirme amacıyla kullanılabiliyor.
Riskin dolandırıcılık boyutu da bulunuyor. Bir kişinin yüzünü kullanan sahte hesaplar açılması, bu hesaplar üzerinden yakınlarından para istenmesi veya sahte reklam ve yatırım içerikleri hazırlanması mümkün.
YZ ile üretilen görsellerin kalitesi arttıkça, ortalama bir kullanıcının gerçek ve sahte içerik arasındaki farkı anlaması da zorlaşıyor. Demircan’a göre bu nedenle sorumluluk yalnızca kullanıcıya bırakılamaz; platformların kötüye kullanımı daha içerik oluşturulurken önleyecek güvenlik sistemleri kurması gerekiyor.
Özellikle kamuoyunda tanınan kişiler, şirket yöneticileri, gazeteciler ve sosyal medya kullanıcıları açısından yüzün izinsiz biçimde taklit edilmesi ciddi sonuçlar doğurabiliyor. Çocukların fotoğraflarında ise daha sıkı koruma önlemleri uygulanması gerekiyor.
GERİ ADIM YETMEZ
Meta’nın tartışmalı özelliği kaldırmasını olumlu bir adım olarak değerlendiren Demircan, bunun tek başına yeterli olmadığını belirtti.
Özelliğin kullanıma açık kaldığı süre içinde hangi fotoğrafların işlendiği, kaç görüntü üretildiği ve bu içeriklerin sistemlerde saklanıp saklanmadığı gibi soruların yanıtlanması gerekiyor.
Kullanıcılara yalnızca gelecekteki kullanımı engelleme seçeneği değil, daha önce oluşturulan içeriklere itiraz etme ve bunların kaldırılmasını isteme hakkı da sunulmalı.
Demircan’a göre YZ ile oluşturulan görüntülerde içeriğin yapay olarak üretildiğini açıkça gösteren işaretler bulunmalı. Görüntünün hangi sistem tarafından, ne zaman ve hangi materyaller kullanılarak oluşturulduğunun takip edilebilmesi de kötüye kullanım durumlarında sorumluların belirlenmesini kolaylaştırabilir.
Platformların ayrıca şikâyet edilen sahte görüntüler için hızlı bir inceleme ve kaldırma sistemi kurması gerekiyor. Bir kişinin kendi yüzüyle üretilmiş sahte bir içerikten haberdar olduğunda günlerce veya haftalarca sonuç beklemesi, zararın büyümesine neden olabilir.
Muse Image tartışması, teknoloji şirketlerinin yeni YZ özelliklerini kullanıma sunmadan önce yalnızca sistemin neler yapabildiğini değil, kötü niyetli kişilerin bu sistemi nasıl kullanabileceğini de değerlendirmesi gerektiğini bir kez daha gösterdi.
Bir kişinin fotoğrafının internette bulunması, o yüzün sınırsız bir YZ malzemesine dönüşmesi anlamına gelmiyor. Teknoloji ilerledikçe açık onay, içeriklerin işaretlenmesi, itiraz hakkı ve hızlı kaldırma mekanizmaları dijital güvenliğin temel şartları haline geliyor.
