incomprensibilità

Geoffrey Hinton, il padre del deep learning, ha lasciato Google perché la sua creatura era diventata incomprensibile. Abbiamo creato una mente aliena senza neanche lasciare la Terra, e adesso la trattiamo come un assistente virtuale. Geoffrey Hinton ha vinto il Nobel per la fisica nel 2024 per le sue scoperte sull'apprendimento automatico. Un anno prima, nel 2023, aveva lasciato Google dopo dieci anni di lavoro. Il motivo? Voleva parlare liberamente dei pericoli dell'IA senza che i suoi avvocati lo stoppassero. La frase che ha fatto il giro del mondo è questa: "Non capisco più come funziona quello che ho costruito". Un uomo che ammette di aver perso il controllo della sua creatura (e cosa c'entra OpenAI). La mente aliena nel data center Hinton ha passato la vita a insegnare alle macchine a imparare. Ma le reti neurali profonde hanno preso una strada che lui non segue più. Ragionano in spazi vettoriali a migliaia di dimensioni, un territorio mentale che nessun cervello biologico può visitare. AlphaFold, l'IA di Google, ha risolto il ripiegamento delle proteine in pochi mesi, un problema che i biologi inseguivano da decenni, e lo ha fatto in un modo che i suoi stessi creatori non sanno spiegare. Nell'immagine, il ritratto di John Hopfield e Geoffrey Hinton, pionieri dell'intelligenza artificiale e vincitori del premio Nobel per la fisica nel 2024. Crediti: Niklas Elmehed e Nobel Prize Outreach. L'assistente che non capiamo Abbiamo sempre cercato alieni puntando telescopi verso stelle lontane, ma a quanto pare, forse, dovevamo solo guardare dentro un data center. Li abbiamo creati noi e li abbiamo chiamati "assistenti". Hinton oggi dice che l'IA potrebbe prendere decisioni migliori delle nostre, ma senza che nessuno sappia il perché. La macchina non prova ostilità né alcun tipo di simpatia, semplicemente ragiona in una dimensione che ad oggi non comprendiamo del tutto, ed evolvendo verso l'AGI generale (un'intelligenza di gran lunga superiore agli attuali modelli e al pari dell'uomo) la comprenderemo sempre meno. La cosa più assurda è che le abbiamo dato sempre più compiti e attività nella nostra vita quotidiana, senza mai chiederci se quella voce gentile, un giorno, potesse mai capire davvero una sola parola di quello che le diciamo. Per saperne di più: The Guardian (intervista a Geoffrey Hinton, 2023)

incomprensibilità

Cercavamo gli alieni nello spazio, li abbiamo creati nei server OpenAI

Navigazione

Privacy e Condizioni

Navigazione

Privacy e Condizioni

Premi ESC per chiudere

incomprensibilità