Bot troppo intelligenti, Facebook chiude il progetto AI - TechCompany360

Intelligenza artificiale

Bot troppo intelligenti, Facebook chiude il progetto AI



Un test del social network prevedeva la possibilità per due software di dialogare liberamente per contrattare alcuni oggetti. Questi però hanno creato un proprio linguaggio, incomprensibile per l’uomo

Paolo Longo

03 Ago 2017


Suona un po’ come “ti lascio perché ti amo troppo”. Eppure è così: Facebook ha fermato temporaneamente il suo progetto di Intelligenza Artificiale perché…è troppo intelligente! All’interno di un esperimento, che prevedeva l’instaurazione di un rapporto testuale libero tra due bot, questi dopo qualche tentativo hanno inventato un nuovo linguaggio, comunicando in un idioma impossibile da decifrare per i ricercatori. Già da tempo il social network si era dedicato al miglioramento dell’approccio degli algoritmi senzienti verso gli umani, con l’intento di sviluppare un’AI che diventi molto più utile dei bot attuali. Al momento infatti, tramite le piattaforme dedicate, i robot informatici sanno dialogare con gli utenti in carne e ossa ma solo per certe finalità, limitate alla richiesta di informazioni su prodotti e servizi o logistiche, come ad esempio orari e giorni di apertura dei negozi.

Cosa è successo

Il test, focalizzato su una dialettica intesa a condurre trattative per ottenere il miglior risultato possibile circa libri, palloni da basket e cappelli da cowboy da dividere tra i due, ha costatato la persistenza di alcuni botta e risposta che solo in un primo momento erano parsi errori di interpretazione:

WEBINAR
27 Ottobre 2021 - 16:30
FORUM PA 2021- Sanità: con i Big Data nuovo modello di salute connessa e predittiva
Big Data
Intelligenza Artificiale

E invece i bot avevano imparato a usare le stesse parole immesse in fase di configurazione ma in maniera diversa, dando la sensazione di un’assenza di logica che invece per i due era più che reale. Il sospetto è che l’AI abbia sviluppato un proprio ordine per scambiare i messaggi, andando oltre l’imposizione generale: l’utilizzo della lingua inglese. Una notizia che getta più di un dubbio sulla comprensione che l’uomo ha dei sistemi che governano gli algoritmi, con il rischio che, in un futuro non molto remoto, sistemi autogestiti possano ribellarsi ai comandi degli sviluppatori, per organizzarsi in maniera indipendente e creare la propria comunità.

LinkedIn

Twitter

Whatsapp

Facebook

Google+

Link

Bot troppo intelligenti, Facebook chiude il progetto AI

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *