Facebook plans for artificial intelligence lab

Facebook unveiled plans Monday on a partnership with New York University for a new center for artificial intelligence, aimed at harnessing the huge social network's massive trove of data. The California-based tech giant named professor Yann LeCun of NYU's Center for Data Science to head up the project. "As one of the most respected thinkers in this field, Yann has done groundbreaking research in deep learning and computer vision," said Mike Schroepfer, Facebook's chief technology officer. "We're thrilled to welcome him to Facebook." Facebook, the world's biggest social network with more than a billion members, is building the team across three locations -- New York, London and its headquarters in Menlo Park, California. The lab will work on "machine learning," -- a branch of artificial intelligence that involves computers "learning" to extract knowledge from giant data sets. LeCun, a French-born mathematician and computer scientist, said in a blog post that he was pleased to
  head up the project with "the ambitious, long-term goal of bringing about major advances in artificial intelligence." "I am thrilled to announce that I have accepted the position of director of this new lab," LeCun wrote. "I will remain a professor at New York University on a part-time basis, and will maintain research and teaching activities at NYU." Facebook chief and co-founder Mark Zuckerberg spoke of the plans during a call in October to discuss the company's quarterly earnings. Zuckerberg said a working group was formed in September "to do world-class artificial intelligence research using all of the knowledge that people have shared on Facebook." "The goal here is to use new approaches in AI to help make sense of all the content that people share so we can generate new insights about the world to answer people's questions," Zuckerberg said at the time. He added that one of the goals was "to build services that are much more natural to interact with and can help solve
  many more problems than any existing technology today." LeCun is a professor at NYU's Courant Institute of Mathematical Sciences and is the founding director of the university's Center for Data Science. He is known for creating an early version of a pattern-recognition algorithm which mimics, in part, the visual cortex of animals and humans.  The algorithm helped allow AT&T's Bell Labs to deploy a check-reading system that by the late 1990s was reading about 20 percent of all the checks written in the US, according to NYU. LeCun's recent research projects include the application of "deep learning" methods for visual scene understanding and navigation autonomous ground robots, driverless cars, and small flying robots, as well as speech recognition, and applications in biology and medicine. LeCun is set to start the job in January. Facebook joins other Internet firms like Google and Microsoft in researching artificial intelligence, which could help in delivering improved sear
 ch results and in new products ranging from video games to driverless vehicles.

Sogno e umorismo

Sogno, umorismo e gestualità. Sono tre elementi indispensabili senza i quali non sarà possibile realizzare una compiuta intelligenza artificiale. Sto leggendo il libro di Kurzweil la singolarità è vicina. Ha ragione su molte cose. Lui prevede che l'aumento delle capacità di calcolo dei computer consentirà di raggiungere la massa critica necessaria a eguagliare le capacità del cervello umano. Il punto è che la capacità di calcolo non è sufficiente. Occorre capire alcuni meccanismi che presiedono al funzionamento del cervello e hanno a che hanno a che fare con la natura stessa dell'intelligenza. Se il riconoscimento vocale appare ormai a portata di mano, così come l'esecuzione di compiti via via più complessi, siamo ancora molto lontani dalla creatività. La chiave per capire l'origine di questo fenomeno potrebbe essere proprio nel sogno e nell'umorismo, due fenomeni il cui ruolo nel funzionamento complessivo del cervello non è ancora affatto chiaro. Occorre inoltre indagare con più attenzione il rapporto tra il linguaggio, il cervello e la mano, integrando nei progetti di intelligenza artificiale anche l'esame della gestualità della mano robotica e il suo rapporto con l'apprendimento del linguaggio.

Ameriano colpito dall'amnesia: dimentica l'inglese, ora parla svedese

  PALM SPRINGS, Calif. (AP) _ Doctors are looking into the mystery of a Florida man who awoke speaking only Swedish, with no memory of his past, after he was found unconscious four months ago at a Southern California motel.

   Michael Boatwright, 61, woke up with amnesia, calling himself Johan Ek, The Desert Sun reported (http://mydesert.co/145PNGw).

   Boatwright was found unconscious in a Motel 6 room in Palm Springs, Calif., in February. After police arrived, he was transported to the Desert Regional Medical Center in Palm Springs where he woke up.

   Hospital officials said Boatwright may have been in town for a tennis tournament in the Coachella Valley. He was found with a duffel bag of exercise clothes, a backpack and tennis rackets. He also carried four forms of identification _ a passport, a California identification card, a veteran's medical card and a Social Security card _ all of which identified him as Michael Thomas Boatwright.

   Palm Springs police have documented his information in case anyone lists Boatwright as missing or wanted, authorities said.

   In March, doctors diagnosed Boatwright with Transient Global Amnesia, a condition triggered by physical or emotional trauma that can last for several months.

   The rare mental disorder is characterized by memory loss, ``sudden and unplanned travel,'' and possible adoption of a new identity, according to the Sun.

   After an extensive search, medical personnel and social workers have been unable to locate Boatwright's next of kin. Authorities are still unsure of his birthplace, listed on his ID as Florida _ photos show him in Sweden at a young age.

   Boatwright doesn't recall how to exchange money, take public transportation, or seek temporary housing like homeless shelters or hotels, the social worker assigned to his case, Lisa Hunt-Vasquez, told the Sun.

   He doesn't remember his son and two ex-wives, either.

   He has no income or insurance, further complicating his treatment at Desert Regional. And he has little money he can access _ only $180. He also has a few Chinese bank accounts, but can only access one account, which holds $7, according to the newspaper.

   Doctors don't know how much longer he will be able to stay at the center _ aside from his amnesia, Boatwright is in good health. The hospital is currently looking for alternatives that would keep him off the streets. For now, Boatwright is unsure of both his past and his future.

   ``Sometimes it makes me really sad and sometimes it just makes me furious about the whole situation and the fact that I don't know anybody, I don't recognize anybody,'' Boatwright told the newspaper.

   Last year, a North Dakota college student who went missing for nearly a week before turning up in Arizona said she had a bout of amnesia and didn't know who she was.

   Amber Glatt, a 22-year-old Valley City State University student, vanished on the Fourth of July, prompting aerial searches. She contacted her mother five days later from the Grand Canyon. Her mother said Glatt has had recurring amnesia since suffering a head injury years ago.

   Glatt told WDAY-TV (http://bit.ly/NmbSnR ) that after she lost her memory she met a man in a bar who let her tag along on his trip to the Grand Canyon. She said the man eventually saw online that she'd been reported missing and alerted her.

   Glatt regained most of her memory.

   AP/LaPresse-WF-07-16-13 0815GMT<

Nasce l'elettronica organica: arriva il transistor neuronale

Roma, 6 mag. (LaPresse) - Strumenti più efficaci per la conoscenza del funzionamento del cervello e la riparazione dei neuroni mal funzionanti in Parkinson ed epilessia. E' la prospettiva aperta da una ricerca del Cnr pubblicata su Nature Materials. Tutto grazie alla messa a punto di una nuova tecnologia, l'elettronica organica trasparente, capace di ottenere informazioni in merito all'attività neuronale, apre una nuova piattaforma d'indagine. La ricerca, condotta da due istituti del Consiglio nazionale delle ricerche di Bologna, l'Istituto per lo studio dei materiali nanostrutturati (Ismn-Cnr) e l'Istituto per la sintesi organica e la fotoreattività (Isof-Cnr), in collaborazione con l'Istituto italiano di tecnologia (Iit) e con Etc, spin off del Cnr e start up del Gruppo Saes, ha dimostrato che si può stimolare l'attività neuronale, manipolarla e leggerla attraverso uno strumento biocompatibile: l'Ocst (organic cell stimulating and sensing transistor).

"Il dispositivo è costituito da un microchip organico trasparente sul quale vengono adagiate le reti neuronali, caratterizzato dalla capacità di stimolare e registrare segnali elettrici e, in prospettiva, di generare luce", illustra Michele Muccini, responsabile del Cnr-Ismn di Bologna e coordinatore del progetto insieme con Valentina Benfenati e Stefano Toffanin. "Inoltre, in quanto biocompatibile, Ocst riesce a rimanere a contatto per lungo tempo con i neuroni primari senza che questi vengano danneggiati, offrendo la possibilità di comprendere il loro funzionamento e di modulare la loro attività con maggiore efficacia rispetto alle tecnologie esistenti".

L'applicazione di questo strumento fornisce numerosi vantaggi. "Il suo sviluppo permetterà di studiare anche altri tipi di neuroni e di cellule, dando la possibilità di compiere significativi passi avanti nella determinazione del funzionamento del cervello umano", prosegue Muccini. "In futuro - continua - la capacità di interazione tra cellule nervose e dispositivo potrebbe trovare applicazioni per la rigenerazione del tessuto nervoso periferico compromesso da incidenti traumatici, da malattie neurodegenerative come il Parkinson o nella diagnosi precoce di eventi epilettici".

Lo studio ha impegnato un team di 13 ricercatori, tra cui esperti in scienza e tecnologia dei materiali, neuroscienziati ed elettrofisiologi, che ha lavorato per due anni presso la sede del Cnr di Bologna, nell'ambito delle linee strategiche del dipartimento di Scienze chimiche e tecnologie dei materiali dell'Ente e delle ricerche sullo sviluppo di tecnologie per la comprensione del funzionamento del cervello, oggetto di importanti programmi strategici europei e americani. L'importanza socio-economica di queste attività ha spinto la Commissione europea a designare maggio 2013 'mese europeo del cervello'.

Ascolta, guarda e clicca

Leggo  questo articolo su Repubblica e devo dire ne resto impressionato.

Ascolta, clicca e guarda ecco la nuova formula per insegnare ai ragazzi
http://www.flcgil.it/rassegna-stampa/nazionale/ascolta-clicca-e-guarda-ecco-la-nuova-formula-per-insegnare-ai-ragazzi.flc

Trovo paradossale l'entusiasmo con cui non solo ci arrendiamo, ma addirittura ci appassioniamo a questo nuovo metodo di comunicazione fatto di inquinamento mentale e caos. I ragazzi non sono capaci di mantenere la concentrazione cinque minuti sulla stessa cosa, perché studiano tra Facebook, le vibrazioni del cellulare, gli mp3 e la televisione? E allora si inventano modi caotici di studiare, per intercettare la loro attenzione. "Navigando nel V canto dell’Inferno nella piattaforma di My-LabLetteratura, collegata a un manuale scolastico cartaceo, ecco la voce di Gassman che recita la passione di Paolo e Francesca,mentre una “linea del tempo” sottolinea le date fondamentali della vita del poeta. E, sullo sfondo, scorrono i quadri ispirati al canto più celebre della Divina Commedia". 

Ottimo, così siamo noi a certificare allo studente che tenere l'attenzione su una cosa per cinque minuti è una cosa inutile. E' più o meno come dire che dato che il mare è inquinato, tanto vale rovesciarvi dentro il petrolio e prendere atto, possibilmente con un certo entusiasmo, che il mare 2.0 è fatto al 50% di acqua e al 50% di petrolio.

La questione è semplice. Il learning by doing è una eccezionale forma di apprendimento, scarsamente utilizzata in Italia, che può funzionare molto bene col digitale. Anche gli stessi ebook, opportunamente collegati a dizionari, wikipedia, e strumenti di approfondimento, sono una ottima evoluzione degli strumenti di studio. Ma insegnare, invece, ai ragazzi che non serve saper leggere per un'ora di seguito, e attirare la loro attenzione su video, musica, animazioni e infografiche, è un boomerang. E' un danno cognitivo enorme.

La verità è il consumo culturale generale sta calando livello. Le edicole sono piene di spazzatura, le tv altrettanto. Internet, con la sua legge assoluta delle pageview, è l'impero del male da questo punto di vista. Le cose più lette, più viste, più cliccate, sono quasi sempre spazzatura (e infatti hanno quasi sempre a che fare con la tv). Il motivo è semplice. E' l'intrattenimento la cosa più consumata, perché è quello che non richiede impegno. Il problema è che l'intrattenimento dovrebbe essere neutro. Non dovrebbe impegnare la mente, ma neanche provocarle un danno. Invece ne provoca, e molto. Riempie la testa delle persone di informazioni ridondanti, contraddittorie, consuma capacità di memoria e di computazione. Il cervello finisce per restare inquinato. Tutto questo ha ovvi motivi commerciali, che si possono comprendere. Quello che è criminale è trasformare questo modo di comunicare nel sistema di apprendimento a cui vogliamo affidare la crescita dei nostri figli.

Overfitting è memoria? Questo è il problema

Quasi sempre un problema rappresenta una soluzione a un problema precedente. In questo caso il problema dell'overfitting, esaminato nel post del 13 dicembre, rappresenta un inizio di soluzione a un problema precedente: la memoria. La questione è semplice: come memorizza il cervello? Dove mette le informazioni, come le organizza? Ci sono alcune caratteristiche che ci permettono di escludere una organizzazione a matrice sul modello di un hard disk.

Una è che il cervello ricerca per associazioni di idee e non è in grado di intercettare una singola informazione se non inserita in un contesto (il colore dell'altalena del campeggio lo ricordiamo solo se facciamo lo sforzo di ricordare tutti i dettagli del campeggio, ripercorrendone la pianta, l'organizzazione, le persone conosciute).

Allo stesso tempo, in generale è molto più facile per il cervello stabilire se una cosa è nota, piuttosto che ricordarne tutti i dettagli. Per esempio è più facile dire davanti a una foto se una certa faccia l'abbiamo già vista, piuttosto che visualizzare nella testa un viso e descriverne i tratti. In altre parole, è molto facilitante per il cervello avere davanti un pattern da riconoscere piuttosto che ricordarne uno completamente. Questa seconda cosa è esattamente la stessa che succede con l'overfitting. In effetti l'overfitting è una forma di memorizzazione. E' una forma un po' laterale di apprendimento, in cui invece che "capire la lezione" la si "impara a memoria". Insomma la cosa è comunque molto interessante. Ora, si può dire però che sia un modo compiuto di memorizzare solo se siamo poi in grado di estrarre l'informazione. Di fronte a una immagine, con il metodo illustrato il 1 dicembre (quello che ha il problema dell'overfitting), siamo in grado di dire se appartiene all'insieme di quelle memorizzate, o se si tratti di una nuova. La questione è: siamo anche in grado di estrarre le 40 immagini memorizzate e salvarle da qualche parte in maniera "tradizionale"? Se sì, abbiamo risolto il problema della memorizzazione del cervello. Attualmente un metodo che consenta di farlo non c'è. Trovarlo sarebbe un enorme passo avanti nella costruzione di un cervello artificiale.

Il tema della memoria è centrale per l'intelligenza artificiale: il suo rapporto con l'apprendimento è il cuore stesso del problema dell'intelligenza. Sull'argomento ho già scritto diversi post:
Rete a riconocimento del già visto
Memoria per associazioni? Per una fuga rapida
La memoria

Riconoscimento volti artigianale: il fantasma dell'overfitting

Con l'esempio di rete neurale per il riconoscimento dei volti che ho pubblicato il primo dicembre c'è un problema: l'overfitting. La questione è presto spiegata: il modello è sovradimensionato, ci sono troppi neuroni di ingresso. Con un coefficiente per ciascun neurone, ci sono circa 100mila paramentri. Il risultato è che, con appena 40 esempi in ingresso, la sua capacità di individuare singole differenze tra una immagine e l'altra è troppo fine.

Dal momento che può confrontare ogni singolo pixel tra una immagine e l'altra, succede che prendono il sopravvento dettagli minori: se in un dato punto compaiono capelli o sfondo, se in un altro c'è la maglietta beige o azzurra, e via di questo passo. E' talmente ampio il numero di dettagli su cui il modello può giocare che è in grado di identificare le singole immagini.

Di fatto le memorizza. Il risultato è che riconosce perfettamente le immagini usate in fase di apprendimento ma poi non è in grado di riconoscerne di nuove. Si basa su dettagli insignificanti e in effetti non fa la cosa più importante: non generalizza, non individua le caratteristiche distintive fondamentali tra un volto e l'altro. Come si risolve questo problema? Con alcune tecniche statistiche che riducono l'immagine a pochi parametri sui quali poi la rete può fare apprendimento. Il primo e il più noto è Eigenface.

Il mio interesse in questo studio però era un altro.

A me non interessa studiare il modo più efficiente di riconoscere i volti in sé, mi interessa studiare le reti neurali come lontano parente del meccanismo di funzionamento del cervello. Il tema è come fa il cervello a riconoscere gli oggetti, le persone, e così via, e ad associarvi suoni (che a sua volta impara a distinguere per fonemi) costruendoci poi sopra un linguaggio.

Detto in altre parole, il problema non è solo riconoscere Piero da Carlo, ma anche riconoscere un temperamatite o una sedia da Carlo e perciò ridurre il problema a pochi parametri facciali con un procedimento analitico a monte non risolve affatto il problema, lo aggira. Farei io il lavoro che vorrei capire invece come fa a fare il cervello.

C'è da dire che probabilmente il cervello non ha grossi problemi di overfitting perché ha letteralmente milioni di esempi su cui fare riconoscimento del pattern, avendo a disposizione un flusso di immagini dagli occhi mediamente 16 ore su 24 per anni, e non i miseri 40 di quel modello. Perciò forse, oltre a trovare un modo di ridurre i parametri senza compromettere l'esperimento, c'è anche da introdurre un meccanismo di input a flusso video, in modo da poter campionare migliaia di immagini.

Non appena avrò le idee più chiare su come affrontare il problema lo scriverò qui. Ringrazio molto Raistlin, della lista hackmeeting, per aver segnalato il problema.