Dille ao teu gatiño o que pensas dentro: o efecto de caixa negra

O feito de que os algoritmos avanzados de IA sexan como unha caixa negra (1) que tira un resultado sen revelar como se produciu preocupa a uns e molesta a outros.

En 2015, solicitouse a un equipo de investigación do Hospital Mount Sinai de Nova York que utilizase este método para analizar unha extensa base de datos de pacientes locais (2). Esta enorme colección contén un océano de información sobre pacientes, resultados de probas, receitas médicas e moito máis.

Os científicos chamaron o programa analítico desenvolvido no transcurso do traballo. Adestrouse con datos dunhas 700 persoas. humanos, e cando se proba en novos rexistros, demostrou ser extremadamente eficaz para predicir enfermidades. Sen a axuda de expertos humanos, descubriu patróns nos rexistros dos hospitais que indican que paciente está no camiño dunha enfermidade, como o cancro de fígado. Segundo os expertos, a eficiencia prognóstica e diagnóstica do sistema era moito maior que a de calquera outro método coñecido.

2. Sistema de intelixencia artificial médica baseado en bases de datos de pacientes

Ao mesmo tempo, os investigadores notaron que funciona dun xeito misterioso. Resultou, por exemplo, que é ideal para recoñecemento dos trastornos mentaiscomo a esquizofrenia, que é extremadamente difícil para os médicos. Isto foi sorprendente, especialmente porque ninguén tiña idea de como o sistema de intelixencia artificial podía ver a enfermidade mental tan ben baseándose só nos rexistros médicos do paciente. Si, os especialistas estaban moi satisfeitos coa axuda dun diagnóstico de máquinas tan eficiente, pero estarían moito máis satisfeitos se entendesen como chega a IA ás súas conclusións.

Capas de neuronas artificiais

Desde o primeiro momento, é dicir, desde que se coñeceu o concepto de intelixencia artificial, había dous puntos de vista sobre a IA. O primeiro suxeriu que o máis razoable sería construír máquinas que razoan de acordo cos principios coñecidos e a lóxica humana, facendo que o seu funcionamento interno sexa transparente para todos. Outros crían que a intelixencia xurdiría máis facilmente se as máquinas aprendían mediante a observación e a experimentación repetida.

Isto último significa revertir a programación informática típica. En lugar de que o programador escriba comandos para resolver un problema, o programa xera algoritmo propio en función dos datos da mostra e do resultado desexado. Os métodos de aprendizaxe automática que máis tarde se converteron nos sistemas de IA máis poderosos que se coñecen hoxe en día acaban de seguir o camiño de, de feito, a propia máquina programa.

Este enfoque permaneceu á marxe da investigación de sistemas de IA nos anos 60 e 70. Só a principios da década anterior, tras algúns cambios e melloras pioneiras, Redes neuronais "profundas". comezou a demostrar unha mellora radical nas capacidades de percepción automatizada. 

A aprendizaxe automática profunda dotou aos ordenadores de habilidades extraordinarias, como a capacidade de recoñecer as palabras faladas con case tanta precisión como un humano. Esta é unha habilidade demasiado complexa para programar con antelación. A máquina debe ser capaz de crear o seu propio "programa" mediante formación sobre grandes conxuntos de datos.

A aprendizaxe profunda tamén cambiou o recoñecemento de imaxes do ordenador e mellorou moito a calidade da tradución automática. Hoxe, úsase para tomar todo tipo de decisións clave en medicina, finanzas, fabricación e moito máis.

Porén, con todo isto non podes mirar dentro dunha rede neuronal profunda para ver como funciona "dentro". Os procesos de razoamento en rede están incrustados no comportamento de miles de neuronas simuladas, organizadas en decenas ou mesmo centos de capas intrincadamente interconectadas..

Cada unha das neuronas da primeira capa recibe unha entrada, como a intensidade dun píxel nunha imaxe, e despois realiza cálculos antes de emitir a saída. Transmítense nunha rede complexa ás neuronas da seguinte capa, e así sucesivamente, ata o sinal de saída final. Ademais, existe un proceso coñecido como axustar os cálculos que realizan as neuronas individuais para que a rede de adestramento produza o resultado desexado.

Nun exemplo citado con frecuencia relacionado co recoñecemento de imaxes de cans, os niveis máis baixos de IA analizan características sinxelas como a forma ou a cor. Os superiores tratan problemas máis complexos como a pel ou os ollos. Só a capa superior reúne todo, identificando o conxunto completo de información como un can.

O mesmo enfoque pódese aplicar a outros tipos de entrada que impulsan a máquina para aprender por si mesma: sons que forman palabras na fala, letras e palabras que forman frases en texto escrito ou un volante, por exemplo. movementos necesarios para conducir un vehículo.

O coche non se salta nada.

Inténtase explicar o que ocorre exactamente nestes sistemas. En 2015, os investigadores de Google modificaron un algoritmo de recoñecemento de imaxes de aprendizaxe profunda para que, en lugar de ver obxectos nas fotos, os xerara ou modificou. Ao executar o algoritmo cara atrás, quixeron descubrir as características que utiliza o programa para recoñecer, por exemplo, un paxaro ou un edificio.

Estes experimentos, coñecidos publicamente como título, produciron representacións sorprendentes de (3) animais, paisaxes e personaxes grotescos e estraños. Ao revelar algúns dos segredos da percepción das máquinas, como o feito de que certos patróns se devolvan e repiten repetidamente, tamén mostraron como a aprendizaxe automática profunda difiere da percepción humana, por exemplo, no sentido de que expande e duplica artefactos que ignoramos. no noso proceso de percepción sen pensar . .

3. Imaxe creada no proxecto

By the way, por outra banda, estes experimentos desvelaron o misterio dos nosos propios mecanismos cognitivos. Quizais sexa na nosa percepción que hai varios compoñentes incomprensibles que nos fan comprender e ignorar algo inmediatamente, mentres a máquina repite pacientemente as súas iteracións sobre obxectos "sen importancia".

Realizáronse outras probas e estudos para tentar "comprender" a máquina. Jason Yosinski creou unha ferramenta que actúa como unha sonda atrapada no cerebro, dirixíndose a calquera neurona artificial e buscando a imaxe que a active con máis forza. No último experimento, apareceron imaxes abstractas como resultado de "mirar" a rede en flagrante, o que fixo aínda máis misteriosos os procesos que teñen lugar no sistema.

Non obstante, para moitos científicos, tal estudo é un malentendido, porque, na súa opinión, para comprender o sistema, recoñecer os patróns e mecanismos dunha orde superior de toma de decisións complexas, todas as interaccións computacionais dentro dunha rede neuronal profunda. É un labirinto xigante de funcións e variables matemáticas. De momento, é incomprensible para nós.

O ordenador non se inicia? Por que?

Por que é importante comprender os mecanismos de toma de decisións dos sistemas avanzados de intelixencia artificial? Xa se están utilizando modelos matemáticos para determinar que presos poden ser postos en liberdade condicional, a quen se lle pode conceder un préstamo e quen pode conseguir un emprego. Quen estea interesado quere saber por que se tomou esta decisión e non outra, cales son os seus fundamentos e mecanismo.

admitiu en abril de 2017 no MIT Technology Review. Tommy Yaakkola, un profesor do MIT que traballa en aplicacións para a aprendizaxe automática. -.

Incluso hai unha posición legal e política de que a capacidade de examinar e comprender o mecanismo de toma de decisións dos sistemas de IA é un dereito humano fundamental.

Desde 2018, a UE traballa para esixir ás empresas que proporcionen explicacións aos seus clientes sobre as decisións que toman os sistemas automatizados. Resulta que ás veces isto non é posible nin sequera con sistemas que parecen relativamente sinxelos, como aplicacións e sitios web que usan a ciencia profunda para mostrar anuncios ou recomendar cancións.

Os ordenadores que executan estes servizos programan eles mesmos, e fano de maneiras que non podemos entender... Mesmo os enxeñeiros que crean estas aplicacións non poden explicar completamente como funcionan.