Fedezd fel a lehetőségeket, és szerezz 10 milliót azzal, hogy feltérképezed a Google mesterséges intelligenciájának gyengeségeit!
Elég jó pénzt lehet csinálni azzal, ha előbb jössz rá, hogy mit rontott el a Google, mint ők maguk.
A Google egy új, kifejezetten mesterséges intelligenciára fókuszáló hibavadász programot indított, amelyben a kutatók akár 30 000 dollárt, vagyis több mint 10 millió forintot is kereshetnek, ha biztonsági réseket találnak a vállalat MI-termékeiben. A cél az, hogy még időben felfedezzék azokat a sebezhetőségeket, amelyekkel a támadók rosszindulatú műveletekre kényszeríthetik az MI-rendszereket.
A Google különböző példákon keresztül szemléltette, hogy milyen jellegű hibákra figyelnek. Ilyenek lehetnek például olyan prompt injection támadások, amelyek arra kényszerítik a Google Home-ot, hogy kinyisson egy ajtót, vagy adatlopási parancsok, amelyek összegzik egy felhasználó e-mailjeit, majd elküldik azokat a támadónak.
A dedikált MI hiba alatt a vállalat olyan biztonsági gyengeségeket ért, amelyek lehetővé teszik, hogy nagy nyelvi modellek vagy generatív mesterséges intelligencia rendszerek manipulálják a szolgáltatást, és így ártalmas vagy nem kívánatos cselekvésekre ösztönözzék azt. Ez magában foglal minden olyan helyzetet, amikor az MI képes megváltoztatni a felhasználó adatait, beavatkozni a fiókjába, vagy irányítani fizikai rendszereket, mint például az okoseszközöket.
A Google már két éve ösztönzi a biztonsági kutatókat, hogy teszteljék MI-termékeit, és eddig több mint 430 000 dollárt fizetett ki a hibák felfedezőinek.
A hibavadász program mellett a Google bemutatta legújabb mesterséges intelligencia alapú eszközét is, a CodeMender névre hallgató kódjavító ügynököt. Ez az innovatív megoldás automatikusan képes észlelni és kijavítani a biztonsági réseket. A vállalat tájékoztatása szerint a CodeMender már 72 nyílt forráskódú projektben járult hozzá a sebezhetőségek megszüntetéséhez.
