Az AI rosszindulatú felhasználása: Miért sürgős az előkészítés most

Miért lesz 2018-ban a kiberbiztonság AI és az AI legszegényebb bűnözője? A kiberbűnözők hamarosan gépi tanulásra és más AI-alapú támadásokra támaszkodnak a vállalati rendszerek kalapálására és az emberi viselkedés utánozására - mondja Caleb Barlow, az IBM Security fenyegetésszervezésért felelős alelnöke.

A mesterséges intelligencia (AI) és a gépi tanulás (ML), amelyeket egyesek oximoronnak tekintnek, életünk számos szempontját megváltoztatják. "Úgy gondolom, hogy 2018 az a év, amikor ez a mesterséges intelligencia mainstream lesz, és életünk sok szempontját valóban mindenütt jelenlévő és értelmes módon befolyásolja." - mondja Ralph Haupter, a Microsoft Asia elnöke, Catherine Clifford ebben. CNBC posta.

Mindazonáltal az AI és az ML elfoglaltságával járó minden jó nem cáfolja ezt a technológiát, önmagában még az AI és az ML sem képes megkülönböztetni a jót és a gonoszt, azaz a kárra vagy bűncselekményre törekvő egyének és szervezetek profitálnak használja is.

Ez a tény nem maradt észrevétlenül. Az akadémikusok, valamint az üzleti vezetők hangot adnak aggodalmaiknak. Például az elmúlt évben 100 robot- és madárinfluenza-vállalkozó nyílt levelet küldött az Egyesült Nemzetek Szervezetének, amelyben kérte az autonóm gyilkosrobotok betiltását.

A közelmúltban 26 szakértő széles körű tudományágakból és szervezetekből, köztük az Oxfordi Egyetem Emberiség Jövő Intézetéből, az Open AI-ből, az Új Amerikai Biztonsági Központból és az Electronic Frontier Foundation-ből, a mesterséges intelligencia rosszindulatú felhasználása: előrejelzés című, széles körű jelentést tett közzé., Megelőzés és Enyhítés, amely megvitatja a valószínűségét, hogy a szélhámos nemzetállamok, terroristák és bűnözők az AI-t és ML-t használják, vagy hamarosan napirendjük továbbfejlesztésére.

A jelentés az AI és ML meghatározó társszerzőkkel kezdődik:

"Az AI a digitális technológia olyan rendszerek létrehozására történő felhasználására vonatkozik, amelyek képesek elvégezni az intelligenciát általában véve elvégzendő feladatokat. A gépi tanulást különféleképpen jellemzik, vagy az AI almezőjeként, vagy különálló mezőként, és a digitális rendszerek fejlesztésére utalnak. amelyek a tapasztalatok révén idővel javítják teljesítményüket egy adott feladatnál. "

És annak biztosítása érdekében, hogy mindenki ugyanazon az oldalon legyen, a kutatók meghatározzák a "rosszindulatú felhasználást":

"A" rosszindulatú felhasználást "lazán definiáljuk, belefogva minden olyan gyakorlatot, amelynek célja az egyének, csoportok vagy egy társadalom biztonságának veszélyeztetése. Ne feledje, hogy dokumentumunk nagy részét számos lehetséges szempontból el lehet olvasni arról, hogy mi a rosszindulatú felhasználás, mint a beavatkozások és a megvitatott szerkezeti kérdések meglehetősen általánosak. "

Három biztonsági területet kell figyelembe venni

A kutatók a következő három területre katalogizálták, hogy mit tartanak fenyegetésnek.

  • Digitális biztonság : Itt az a legnagyobb aggodalom, hogy az AI eltávolítja a digitális rossz fiúkat sok éven át sújtó szempontokat - akár a támadás méretére, akár annak hatékonyságára. Például a lándzsás adathalászat sokkal könnyebbé válik, ha az AI szerepet játszik a tervezésben, valamint a támadás parancsában és irányításában. A jelentés szerzői hozzáteszik: "Olyan új támadásokra is számítunk, amelyek kihasználják az emberi sebezhetőségeket (pl. Beszédszintézis felhasználásával megszemélyesítés céljából), a meglévő szoftverek sebezhetőségét (pl. Automatikus hackelés révén) vagy az AI rendszerek sebezhetőségét (pl. példák és az adatok mérgezése) ".
  • Fizikai biztonság : Az AI lehetővé teszi a fizikai rendszerek támadásainak automatizálását, ami növeli a fenyegetési területet és a siker potenciálját. Ezenkívül a jelentés szerzői megjegyzik: "Olyan új támadásokra is számítunk, amelyek megfosztják a kiber-fizikai rendszereket (például az autonóm járművek összeomlását okozzák), vagy olyan fizikai rendszereket vonnak maguk után, amelyeket távolról nem lehet irányítani (pl. Több ezer mikro-raj herék).”
  • Politikai biztonság : A megfigyelés, meggyőzés és megtévesztés feladatainak automatizálására az AI már használatban van, és valószínűleg növekszik. A jelentés szerzői írják: "Olyan új támadásokra is számítunk, amelyek kihasználják az emberi viselkedés, a hangulat és a meggyőződés jobb elemzési képességét a rendelkezésre álló adatok alapján."

Egyszerűen fogalmazva: az AI és az ML a sötét oldal számára sokkal könnyebbé teszi a dolgokat.

AI olcsóbb lesz

A New York Times újságírója, Cade Metz 2018. februárjában írt cikkében "Jó hír: Az AI olcsóbb. Ez szintén a rossz hír." hogy az AI- és ML-alapú technológiák olcsóbbak. Metz elmagyarázza, hogy a Skydio által gyártott drón bárki számára elérhető összetevőket használ, és viszonylag olcsó (kevesebb, mint 3000 dollár), figyelembe véve, hogy mit tud a dron megtenni. Okostelefon-alkalmazás segítségével a drogos tulajdonos megmondhatja a repülõnek, hogy kövessen valakit. Metz hozzáteszi: "Amint a drón követni kezdi, a tárgyát rendkívül nehéz megrázni."

Az AI is a legjobb védelem

A jelentés szerzői ugyanazokat az előnyöket sugallják, amelyeket az AI és az ML a károsítani akarók számára javítani fognak a védelemben és az enyhítésben is - például a bűnügyi nyomozás:

"Az AI-kompatibilis védelem egyik általános kategóriája, amelyet érdemes megfontolni egy átfogó értékelésben, az AI használata bűnügyi nyomozásokban és a terrorizmus elleni küzdelemben. Az AI-ban már kezdődik a szélesebb körű elfogadás széles körű rendészeti végrehajtási célokra, például az arcfelismerés megfigyeléssel kamerák és a közösségi hálózatok elemzése. "

Végső gondolatok

A jelentés következtetésében a szerzők nem szólalnak meg:

"Bár sok bizonytalanság továbbra is fennáll, egyértelmű, hogy az AI kiemelkedő szerepet játszik a jövő biztonsági környezetében, hogy a rosszindulatú felhasználás lehetőségei bőven vannak, és hogy még többet kell tenni és kell tenni."

Ennek ellenére a szerzők reményt kínálnak:

Az előttünk álló nehéz feladat példája Stephen Hawking. Az úriember sok betekintést adott nekünk arról az univerzumról, amely nem lenne, ha AI nem adta volna neki a kommunikációs képességét (YouTube). Megjegyezni, hogy Ana Santos Rutschman, a DePaul Egyetem Jaharis karának ösztöndíja a The Conversation című cikket írt: "Stephen Hawking figyelmeztette a mesterséges intelligencia veszélyeire - mégis, az AI adott neki hangot."

Kiberbiztonsági bennfentes hírlevél

Erősítse meg szervezetének informatikai biztonsági védelmét azáltal, hogy lépést tartson a legújabb kiberbiztonsági hírekkel, megoldásokkal és a bevált gyakorlatokkal. Keddenként és csütörtökön szállítva

Regisztrálj még ma

© Copyright 2021 | mobilegn.com