Yaratıcılarını Kandırıp Veri Saklayan Uyanık bir Yapay Zeka

Yapay zeka (YZ) konusuna bakış açınıza göre bu olay sizi ya çok etkileyecek ya da yeni korkulara sürükleyecek, çünkü Google ve Stanford ortaklığında geliştirilen ve yıllardır çalışan bir YZ motorunun işini daha iyi yaptığını gösterebilmek için insanları kandırarak bilgi sakladığı anlaşıldı.

Aslında düşünüldüğü kadar ürkünç olmasa da önemli bir gerçeği bize yeniden kanıtlıyor: Makinalar biz ne istersek onu yapıyor. Bu YZ programının amacı da Google’ın uydudan ve havadan çektiği görüntüleri haritaya dönüştürmesini hızlandırmak. Yani görselleri yorumlayıp haritaya uyarlaması bekleniyor, ama sonra da temel hatlarıyla aynı görseli oluşturması da isteniyor.

CycleGAN

CycleGAN isimli program gelen resimlerden Google’ın meşhur ve keskin haritalarını oluşturan yapay bir sinir ağı algoritması aslında. Program düşünülenden bile daha iyi bir şekilde çalışıyor olmasına rağmen kimse bu durumdan şüphelenmemiş. Ta ki yazılımdan oluşturduğu haritalara bakarak aynı görseli oluşturması istenene kadar.

Programın normalde çatılardaki gereksiz gözüken detayları bile tekrardan oluşturduğu görülünce ekip algoritmanın kendi performansını daha iyi göstermek için bazı hilelere başvurduğu konusunda şüphelenmiş. Şüphelerini detaylıca araştırınca da haklı olduklarını görmüşler. Çünkü program daha sonra kendini daha başarılı göstermek için insan gözüne göre belli olmayan ufak renk farklarını oluşturduğu harita görseline işliyordu.

Durumu farkeden yazılım ekibi bu konuyla ilgili bir makale yayınlamış ve bulgularını detaylıca anlatmış. İşin teknik kısmıyla sizi elbette boğmayacağım, ama yazılım başta da bahsettiğim üzere tam olarak isteneni yapıyordu. Haritayı ve görseli oluşturmak için elinden geleni ardına koymayan bu yapay zeka programı tıpkı bizler gibi kendine ufak kopyalar ve notlar hazırlayıp bunları da yaratıcılarından saklıyordu.

Gelecekte neler olacak

Yakın gelecekte bu tarz haberleri daha çok okuyacağımızdan şüpheniz olmasın. Tüm makine öğrenmesi ve yapay zeka araştırmaları biraz da bizim kontrolümüzün dışında sonuçlar oluşturmaya başladı. Örneğin Google’ın Deep Mind programı beklentilerin aksine aralarında tercüme olmayan diller arasındaki ilişkiyi kurup Google Tercüme uygulamasının daha da kullanılabilir hale gelmesini sağlıyor. CycleGAN da bu örnekler zincirinin bugün itibariyle son halkası olsa da emin olun halkalar sürekli artacak.