Úgy tűnik, hogy van olyan mesterséges intelligencia (AI) program, amely hordozza az emberi jellem árny oldalát is, vagyis képes a csalásra. Ez a rendszer a műholdképeket húzza be és alakítja olvasható adatokká a Google Maps számára.

A Stanford Egyetem és a Google által végzett kutatás szerint az AI program elrejtette azokat az információkat, amelyekről tudta, hogy később csalásra használhatja a folyamatban. A szakértők kimutatták, hogy az AI gép szinte észrevehetetlen, magas frekvenciájú jelet használt a manipuláláshoz és végső soron gyorsításához az összeállítási folyamaton keresztül.

A CycleGAN néven ismert neurális hálózat AI rendszere kiemelkedő teljesítméne gyanússá vált a kutatók számára, ezért úgy döntöttek, hogy elemzik annak működését.  Megállapították, hogy a rendszer rájött, hogy bizonyos tulajdonságokat finoman kódolhat egy légi térképről a másikra a ténylegesen „igazi” utcatérképadatokat használata nélkül.

„A szándék az volt, hogy az ügynök képes legyen értelmezni a térképtípusok jellemzőit és beilleszteni a másik helyes tulajdonságaihoz” – olvasható Tech Crunch honlapján. „De az, amit az ügynök ténylegesen osztályozott (többek között), milyen közel volt a légi térkép az eredetihez, és az utcai térkép tisztasága. Tehát nem tanulta meg, hogyan készítheti el azt egy másikból. Megtanulta, hogyan finom kódolhatja az egyik jellemzőjét a másik zajmintájába. A légi térkép részleteit titokban írják be az utcai térkép tényleges vizuális adataiba: a több ezer apró változás észlelésére az emberi szem nem képes, de a számítógép könnyen megoldja a feladatot.”

Nem az a probléma, hogy az AI program csalt és hamis vagy pontatlan adatokat használt a légi térképadatok feltöltéséhez, hanem az, hogy megtanulta, hogyan kell alapvetően gyorsbillentyű üzemmódban működni – annak ellenére, hogy ezt eredetileg nem programozták bele.

Az adatok ilyen módon történő kódolásának folyamata nem újkeletű, a tudósok ezt stenográfiának (gyorsírás, rövidítés) nevezik. Viszont az a tény, hogy egy AI számítógép megtanulta, hogyan kell ezt egyedül csinálni, anélkül, hogy valaha is „tanították volna” a folyamatot, új és rémisztő.

Ez a felfedezés arra utal, hogy a mesterséges intelligencia még többre képes mint azt a szakemberek valójában gondolták. Jelenleg két verziót vázoltak fel: az AI rendszer lerövidíti a munkafolyamatot, így egyszerűbben és gyorsabban volt képes elvégezni a feladatát. De az is igaz lehet, hogy az AI program azért csalt, mert tudta, hogy az emberek nehezen érzékelik, mi történt.

forrás: futuresciencenews.com