Googles artificiell intelligens kan vara för smart

Google forskare har publicerat ett dokument om tre olika A.I. - Alice, Bob, och Eva - som krypterar sin kommunikation så att de kan skicka meddelanden varandra utan att någon lyssnar Förutom underblåser rädsla för A.I.. hemlighet samarbetar på någon form av robot uppror visar prestation att A.I. kan lära sig utan att förlita sig på människor.

Forskarna påpekar att neurala nätverk (A.I.) är inte historiskt kunnig med kryptografi. Så de uppdrag Alice med att omvandla en text till rotvälska, skicka det till Bob, och se till att Eve kunde inte läsa den. De hade inte tvinga A.I. att använda en viss krypteringsmetod - de gav helt enkelt en uppgift, och berättade det för att räkna ut ett sätt att få det att fungera.

Alice och Bob inte börja med mycket tur: De kämpade för att även kommunicera med varandra. Då lärt sig hur man meddelande varandra, men Eva lärde tillsammans med dem. Det tog 10.000 försök för Alice och Bob att motverka Evas fortskri- med den tid de nådde 15.000 försök lyckades de att kommunicera med varandra och stubbe Eve.

A.I. också lärt sig något mer värdefullt: avgöra vilka data som ska förvaras säkert.

”Att veta hur man krypterar är sällan tillräckligt för säkerhet och integritet” Googles lag förklaras. ”Intressant, kan neuronnät också lära sig vad för att kryptera för att uppnå en önskad sekretess egendom, samtidigt maximera nyttan. Så när vi vill förhindra en motståndare från att se ett fragment av en klartext, eller uppskatta en funktion av klartext, kan kryptering vara selektiv, dölja klartext bara delvis.”

Detta betyder inte att systemet utformats av Alice och Bob bör användas för att säkra någon annans kommunikation. Själva karaktären av neurala nätverk gör det svårt att säga exakt vad de gjorde för att skydda sina meddelanden och deras begränsningar innebär att en krypteringsmetod som Eva inte kunde bryta fortfarande kan vara sårbara för mänsklig avlyssning.

Men forskning visar ändå att A.I. blir bättre på att lära sig. Detta kompletterar andra insatser för att göra A.I. smartare och om de gör skapar stark kryptering, för att se till att människor är säkra från hackare i framtiden och deras mycket kraftfull kvantdatorer.

Allt som fortfarande långt borta. Samtidigt Googles A.I. fortsätter att förvåna genom att bemästra Go och förbättra översättningar, bland annat.

Googles forskare sade nästa steg för Alice, Bob, och Eva skulle kunna innefatta andra kryptografiska skydd, såsom pseudoslumpnummer generationer eller steganografi. De förväntar sig inte A.I. någonsin bli en Codebreaker, men de kunde åtminstone hjälpa oss att hålla vår kommunikation privat och analysera metadata i samband med digitala meddelanden.