Googles kunstig intelligens kan være for klog

Google forskere har offentliggjort et papir om tre forskellige aktive ingrediens - Alice, Bob, og Eva - der krypterer deres kommunikation, så de kan besked hinanden uden at nogen lytter med Udover den skaber frygt for aktiv ingrediens. hemmeligt samarbejde på en slags robot opstand, den realisering viser, at A.I. kan lære uden at støtte sig på mennesker.

Forskerne påpeger, at neurale netværk (A.I.) er ikke historisk dygtige med kryptografi. Så de opgave Alice med at konvertere noget tekst ind volapyk, sende den til Bob, og sørge for Eva kunne ikke læse det. De havde ikke tvinge A.I. at bruge en bestemt krypteringsmetode - de simpelthen gav det en opgave, og fortalte det til finde ud af en måde at gøre det arbejde.

Alice og Bob startede ikke ud med meget held: De kæmpede for at selv at kommunikere med hinanden. Så lærte de, hvordan man besked hinanden, men Eva lærte ved siden af ​​dem. Det tog 10.000 forsøg for Alice og Bob at imødegå Evas progress- med den tid, de nåede 15.000 forsøg, lykkedes det dem at kommunikere med hinanden og stub Eva.

A.i. også lært noget mere værdifuldt: beslutte, hvad data skal opbevares sikkert.

”At vide, hvordan til at kryptere er sjældent nok til sikkerhed og privatlivets fred,” Googles hold forklaret. ”Det er interessant, kan neurale netværk også lære, hvad at kryptere for at opnå en ønsket hemmeligholdelse ejendom, og samtidig maksimere nytte. Således, når vi ønsker at forhindre en modstander i at se et fragment af et klartekst eller fra estimere en funktion af klartekst, kan kryptering være selektiv, skjule klartekst kun delvis.”

Det betyder ikke, at systemet udtænkt af Alice og Bob skal bruges til at sikre andres kommunikation. Selve karakteren af ​​neurale netværk gør det svært at sige præcis, hvad de gjorde for at beskytte deres budskaber, og deres begrænsninger betyder, at en krypteringsmetode at Eva ikke kunne bryde stadig kan være sårbare over for menneskelig aflytning.

Men forskningen viser stadig, at A.I. bliver bedre til at undervise sig selv. Dette supplerer andre bestræbelser på at gøre A.I. smartere og, hvis de gør skabe stærk kryptering, for at folk er sikre mod hackere i fremtiden og deres ultra-kraftige kvantecomputere.

Alt, hvad der er stadig langt væk. I mellemtiden, Googles A.I. fortsætter med at overraske ved at mestre Go og forbedre oversættelser, blandt andre ting.

Googles forskere sagde det næste skridt for Alice, Bob, og Eva kunne involvere andre kryptografiske beskyttelser, ligesom pseudotilfældige nummer generationer eller steganografi. De forventer ikke aktiv ingrediens til nogensinde at blive en Codebreaker, men de kunne i det mindste hjælpe os med at holde vores kommunikation privat, og analysere de metadata i forbindelse med digitale meddelelser.