ChatGPT, OpenAI ürününü geçen yılın sonlarında piyasaya sürmesinden bu yana piyasaya sürülen pek çok benzer ürünle üretken yapay zekayı ana akım haline getirdi. Üretken yapay zeka, yalnızca birkaç satırlık diyalogla karmaşık soruların yanıtlarını vermiyor. Gerçek olamayacak kadar iyi görünen inanılmaz görüntüler de oluşturabiliyor. Bu da sahteciliğe yol açıyor. Bunun çözümü ise yeni MIT yazılımı!
MIT’nin yeni yazılımı: PhotoGuard
Artık AI ile inanılmaz görüntüler oluşturabildiğimize göre, fotoğraflarda yerleşik olan ve birinin onları sahte görüntüler oluşturmak için kullanmasını zorlaştıran korumalara da ihtiyacımız var. Bunun için ilk adımı MIT, PhotoGuard adlı bir yazılım çözümü sunarak attı. Bu özellik, AI’nın fotoğraflarınızı inandırıcı bir şekilde düzenlemesini engelleyebilir.
MIT CSAIL’den (MIT Bilgisayar Bilimleri ve Yapay Zeka Laboratuvarı) araştırmacılar, yeniliklerini bir araştırma makalesinde yayımladı. PhotoGuard, bir görüntüdeki belirli pikselleri değiştirerek yapay zekanın bunları görmesini imkansız hale getiriyor. Bu özellik, en azından insanlar için fotoğrafı görsel olarak değiştirmeyecek.PhotoGuard aracılığıyla korumalı görüntülerden öğeler kullanarak sahte görüntüler oluşturmaya çalışıldığında yapay zeka piksel bozulmalarını okuyamaz. Bu sayede AI tarafından oluşturulan sahte görüntüler, kullanıcılara görüntünün değiştirildiğini bildiren bariz bölümlere sahip olacak. Aşağıdaki videoda programın nasıl çalıştığını görebilirsiniz.Videoda gördüğünüz üzere PhotoGuard ile birlikte, sahte fotoğraf yapmaya çalışırken bariz piksel bozulmaları görülüyor. Bu da kullanıcıya fotoğrafın sahte olduğunu açık bir şekilde belli ediyor. Araştırmacılar, AI’nın çabalarını engelleyebilecek iki koruma yöntemi daha buldular. İkisi de PhotoGuard’a entegre biçimde. “Kodlayıcı” yöntemi, AI’nın görüntünün bölümlerini anlamasını imkansız hale getirir.
“Difüzyon” yöntemi, bir görüntünün bölümlerini yapay zeka için farklı bir görüntü olarak kamufle eder. Her iki durumda da yapay zeka kusursuz bir sahte fotoğraf üretemeyecektir. Makalenin baş yazarı Hadi Salman, bu teknolojiyi Apple ve Google’ın sırasıyla iPhone ve Android‘deki stok kamera uygulamalarına eklemeyi düşünmesi gerektiğini söylüyor.
Hiç yorum yok:
Yorum Gönder