Diverso

Dr. Abdalla Kablan sobre la construcción de inteligencia artificial responsable

Dr. Abdalla Kablan sobre la construcción de inteligencia artificial responsable

El Dr. Abdalla Kablan es un emprendedor en serie y un galardonado experto en tecnología financiera. Se especializa en el uso de inteligencia artificial y aprendizaje automático en el diseño de sistemas financieros complejos.

A lo largo de su carrera, fundó una serie de nuevas empresas y empresas especializadas en aprendizaje profundo, emparejamiento profesional y Fintech. Además, el Dr. Kablan es ex alumno de Microsoft Ventures, Reino Unido y trabajó en proyectos, que se presentaron en el Foro Económico Mundial 2017 en Davos. Sus últimas empresas son Wyzer.ai y el grupo Caledo.

El Dr. Kablan también es académico de la Universidad de Malta, donde imparte conferencias e investiga temas relacionados con la inteligencia computacional, la ingeniería financiera y la ciencia de datos financieros. Durante su Ph.D. En sus estudios entre 2007 y 2011, el Dr. Kablan investigó los algoritmos de bloques criptográficos detrás de bitcoin (ahora conocido como blockchain) y es un reconocido experto en el campo de los libros de contabilidad distribuidos. Además, el Dr. Kablan asesora a los gobiernos sobre asuntos relacionados con el desarrollo estratégico y la utilización de tecnología, Fintech y tecnologías Blockchain / DLT. En 2018, el Dr. Kablan lanzó DELTA Summit, que se ha convertido en el evento oficial de Malta para DLT e innovación digital.

Se sentó con Ali Diker de Interesting Engineering en la Conferencia The Next Web 2019 de la semana pasada para discutir el estado actual de la inteligencia artificial y si representa una amenaza para la humanidad o no. La entrevista ha sido ligeramente editada para mayor claridad.

Ali Diker: Hola Dr. Kablan, me alegra que pueda estar con nosotros esta tarde. Quería que comenzáramos hablando de un artículo que escribiste en TechCrunch hace unos años sobre cómo la IA no es una amenaza para la sociedad y el mundo en general. En primer lugar, algunas personas son bastante pesimistas acerca de la inteligencia artificial porque se puede convertir en un arma e incluso puede ser muy letal, pero hay optimistas que creen que la inteligencia artificial cambiará las cosas para mejor. En su artículo, dice que tenemos que redefinir algunos de los conceptos, por ejemplo, la conciencia, a medida que avanzamos en el camino hacia la IA; ¿Qué cree que debe redefinirse y cómo y por qué cree que deberíamos redefinir estos conceptos para la IA?

Abdalla Kablan: Primero, gracias por invitarme Ali. Honestamente, mi artículo no fue tan optimista como sugiere el título. Entonces dije que la IA no es una amenaza para la humanidad, sino un internet de cosas inteligentes, tal vez. La razón por la que lo expresé así es porque creo sinceramente que puede funcionar de cualquier manera. Estamos en la encrucijada de la historia de la humanidad donde deben tomarse ciertas decisiones desde un punto de vista estratégico que podrían impactar el futuro de la humanidad.

Ahora, hablé de varios conceptos y uno de ellos es la conciencia. Lograr conciencia en el frente digital es increíblemente difícil e increíblemente complejo. Esto se debe principalmente a que la conciencia, como la inteligencia, es algo bastante abstracto y es muy difícil definir qué es la conciencia. Sin embargo, en lo que me estoy enfocando actualmente es más en lograr sabiduría y crear sistemas más sabios que en la creación de sistemas inteligentes y trataré de explicar por qué.

El problema que hemos tenido en la IA en general se debe a la comprensión de los datos. Los datos, en mi opinión personal, son un proceso de cinco pasos; el ciclo de vida de los datos, por así decirlo. Entonces empiezas con datos; procesa datos y se convierte en información; la información con el tiempo se convierte en conocimiento; el conocimiento con la práctica se convierte en comprensión del dominio del problema; y luego hay algo que, con la práctica del procesamiento, la comprensión y la inteligencia, se convierte en sabiduría.

La abrumadora mayoría de los sistemas de IA históricamente todavía están estancados en ser un conocimiento glorificado por la inteligencia y no han alcanzado la etapa de sabiduría y la diferencia es bastante clara: el conocimiento es la diferencia entre lo verdadero y lo falso, pero la sabiduría es la diferencia entre el bien y el mal.

A un buen amigo mío le gusta decir que saber es saber que un tomate es una fruta, pero sabiduría es saber no añadirlo a una ensalada de frutas. La IA, históricamente, no pudo descifrar el vínculo o la inferencia del lado de la sabiduría. La razón es que durante los últimos 40 a 50 años en IA, la carrera armamentista fue principalmente para crear el próximo Einstein, el mejor modelo matemático que puede resolver un problema como vencer al campeón mundial en Ajedrez o Go.

En lugar de crear un Einstein, deberíamos habernos centrado en crear un Aristóteles que comprenda las diversas facetas de la inteligencia, no solo la inteligencia intelectual y matemática, sino también la inteligencia social, la inteligencia cultural y la inteligencia emocional. La razón por la que estos no se han resuelto no es porque sean irresolubles, es que nadie se ha centrado en ellos.

Así que ahora pertenezco a la mentalidad de que en lugar de centrarnos en la inteligencia artificial, deberíamos centrarnos en la sabiduría artificial; para crear sistemas que por diseño sigan un camino benevolente en lugar de un camino destructivo. Como seres humanos, tenemos muchos defectos; No hace falta ser un genio para darse cuenta de que somos irracionales, pero predeciblemente somos irracionales. Llevamos las semillas de nuestra autodestrucción porque a lo largo de nuestra historia, hemos tomado tantas decisiones que han causado miseria y agonía y si hay una inteligencia superior se dará cuenta de que somos bastante imperfectos y será un problema para nosotros.

Como miembro del equipo de humanidad, necesito salvaguardar el futuro de nuestra especie y sé que es inevitable que si el enfoque está en la inteligencia, un ser inteligente se dará cuenta de nuestros defectos y los sacará provecho. Si el enfoque está en la sabiduría, un ser más sabio o una creación más sabia sabrá que destruir a la humanidad no es bueno para nadie porque, al final del día, la humanidad es una forma de vida y no se debe alterar por principio.

Lo que pasa es que los humanos mismos le han hecho esto a otras criaturas. La forma en que históricamente hemos tratado no solo a los animales, sino a los demás, aunque somos muy inteligentes, podría sucedernos si logramos un nivel de singularidad o inteligencia de máquina que supere la inteligencia humana sin centrarnos en la sabiduría. Por lo tanto, centrarse en el aspecto normativo, centrarse en el aspecto ético desde el punto de vista del desarrollo es bastante crucial.

Las naciones del mundo deberían prestar más atención a esto antes de que sea demasiado tarde. Tomemos, por ejemplo, la industria automotriz, durante tantos años no tuvimos cinturones de seguridad y hubo muchas personas que les dijeron a los fabricantes de automóviles que necesitaban cinturones de seguridad porque las estadísticas muestran que si no usa el cinturón de seguridad, se está muriendo. . Los fabricantes de automóviles se resistieron a esa regulación durante mucho tiempo hasta que tuvieron que verse obligados a poner cinturones de seguridad en los automóviles.

Ahora, mucha gente murió sin el cinturón de seguridad, pero eso no hizo que la humanidad se extinguiera. El problema con la IA es que para cuando la gente se dé cuenta de que necesita ser regulada, ya será demasiado tarde. Nadie puede predecir el futuro, pero tenemos que tener una previsión estratégica sobre cómo esto podría evolucionar potencialmente si no somos responsables.

En Malta, donde estoy basado y de donde soy, el gobierno el año pasado estableció un grupo de trabajo nacional de inteligencia artificial para estudiar realmente las posibles implicaciones de la adopción masiva de inteligencia artificial y, al mismo tiempo, alentarla y elaborar una estrategia que atraerá a los desarrolladores y proyectos de IA para que vengan e innoven desde Malta, pero dentro de nuestros límites regulatorios y dentro de una estrategia nacional que toma en consideración el lado ético del desarrollo, el lado de la propiedad intelectual y todo eso.

Creo que debería convertirse en una discusión global y solo si el enfoque de la investigación y el desarrollo es más hacia la sabiduría, ahí es donde romperemos la conciencia, romperemos cosas como la inteligencia emocional, el lado de la inteligencia social de las cosas. No es difícil, porque estamos en una etapa muy temprana. La IA no es nueva, existe desde la época de Alan Turing, pero nos estábamos enfocando en un lado y olvidamos el 80% del problema real.

Es comprensible porque incluso en la escuela cuando dices "¡oh, ese estudiante es inteligente!" porque ese estudiante obtiene la calificación más alta, pero eso no significa que sea el estudiante más inteligente. Es un reflejo de nuestra propia forma de pensar irracional.

ANUNCIO: ¿Cómo determinamos qué es razonable para una inteligencia artificial? Por ejemplo, en Isaac Asimov's Yo robot tenías inteligencia artificial que protegía a los humanos de otros humanos. En este caso, la inteligencia artificial es buena para algunos humanos y un impedimento para otros.

ALASKA: De hecho, es muy, muy difícil de decir. Como dije, la IA se está volviendo más inteligente, se está volviendo más avanzada, pero incluso los humanos están progresando más allá de lo creíble. Incluso podría argumentar que, como humanos, todos somos cyborgs en este momento porque la definición de cyborg es alguien que tiene algún tipo de mejora cibernética en su cuerpo. Tenemos estos dispositivos que tenemos en nuestras manos todo el tiempo y si lo piensas históricamente, teníamos computadoras mainframe, luego tuvimos PC, luego tuvimos computadoras portátiles, luego tuvimos iPhones, luego tuvimos Google Glass, que fue un poco temporal, pero es solo cuestión de tiempo antes de que estas cosas entren realmente en nuestro cuerpo y todos estemos astillados.

En mi opinión personal, también hay un avance en el lado humano, pero eso me asusta aún más que la inteligencia artificial que se vuelve mucho más inteligente. Desafortunadamente, si los humanos avanzan más en el lado cibernético hasta ese punto, eso provocará una importante distinción elitista entre las personas, los más ricos podrán permitirse el chip más caro, mejor y más inteligente. La selección natural en realidad comenzará a favorecer a los más ricos sobre los más sanos o los más inteligentes y eso, en mi opinión, es un problema importante.

En la segunda parte sobre la protección de la IA a los humanos de los humanos, es un argumento filosófico muy profundo. Con el tiempo llegaremos allí y, volviendo de nuevo a la regulación, debemos anticiparnos a esas tendencias ahora y tratar de elaborar leyes para no terminar en ese tipo de situación o escenario.

ANUNCIO: Entonces, la siguiente pregunta es sobre Blockchain. ¿Cómo ayudará la tecnología blockchain a mejorar la inteligencia artificial?

ALASKA: Esa es una muy buena pregunta. Así que creo que pronto habrá convergencia entre varias disciplinas, a saber, Blockchain, AI e IoT. En ese frente en particular, tenemos que entender que en el frente de la cadena de bloques, a diferencia de la IA, estamos en las primeras etapas, como Internet en la década de 1980 y principios de la de 1990.

Así que Internet existió como un protocolo durante casi 30 años, TCP / IP, no fue hasta que un buen invento a principios de los 90 catapultó Internet a un lugar completamente diferente, y ese invento fue el navegador web. El día que tuvimos el primer navegador, comenzamos a realizar este protocolo, TCP / IP, de una forma inimaginable por toda esta indexación de la que estábamos hablando a nivel de código, ahora podemos visualizarlo y buscar, podemos consultar, se convirtió mucho más simple. Con Blockchain no lo hemos logrado, pero está bien, es saludable y sabemos que en realidad vamos a ir allí y eventualmente lo lograremos.

Blockchain, como saben, es un proceso de contabilidad descentralizado que todavía se centra en el almacenamiento de datos, todavía no ha llegado al lado del procesamiento. Personalmente creo que pronto, y cuando digo pronto, entre cinco y diez años, blockchain desarrollará arquitecturas mucho más sofisticadas, arquitecturas de tecnología de contabilidad descentralizada, que no solo permitirán el almacenamiento sino también el procesamiento. Esto, por otro lado, mejorará las capacidades de adquisición, administración y procesamiento de datos más allá de lo que tenemos actualmente, lo que significa que los sistemas de IA mejorarán a un nivel inimaginable.

Si la IA mejora, volvemos al argumento de si la IA se convertirá en una amenaza para la humanidad; sin embargo, creo sinceramente que blockchain es una solución fantástica y bendita para nosotros porque tenemos consenso con blockchain y cuando tienes consenso puedes tener alguna forma de control. Si una IA se va a volver loca, hablando colectivamente, no logrará el consenso, por lo tanto, no podrá realizar ciertas tareas en la red porque sabríamos que esto no debería suceder porque no es en beneficio de toda la comunidad. red.

Entonces, blockchain, porque tenemos estos mecanismos de consenso, con suerte tendremos algún tipo de inteligencia en la prueba de trabajos, prueba de lo que está en juego y lograr el consenso, de modo que dentro de cinco, diez años haya muchas mejoras en esto. tecnología actual. Esto nos ayudará a hacer y trazar la distinción entre no verdadero y falso, sino correcto e incorrecto, y si su decisión de ejecutar una determinada acción en la red es perjudicial, entonces no logrará esa forma de consenso.

Así que creo que blockchain es una muy buena solución y nosotros, como desarrolladores, deberíamos pensar en esto ahora. Dije antes que cometimos un error con la IA que creo que deberíamos reconocer, que realmente seguimos el camino equivocado con la IA, y que con blockchain deberíamos ser responsables y tener estas conversaciones y reconocer que blockchain no va a existir solo; La IA pronto se integrará y progresará con ella. Así que creemos nuestros mecanismos de consenso no solo para hacer estas pruebas que validan las transacciones financieras, lo cual es genial, sino cuando se trata de procesamiento, cuando reconocemos que cuando hay alguna forma de acción no benevolente, la detenemos.

Es más fácil decirlo que hacerlo, pero si reunimos suficientes cerebros buenos para resolverlo, no es algo irresoluble. Todo lo que estamos haciendo es solo retrasar lo inevitable, eventualmente estaremos en una situación en la que la IA está superando la inteligencia humana, pero si podemos retrasarla o controlarla de una manera que nos quite la mayor parte del daño, entonces eso sería genial.

ANUNCIO: Pero digamos que la mayoría toma una mala decisión sobre cómo se pueden integrar la IA y la cadena de bloques, sobre el proceso. Ciertamente parece que las mayorías tienden a tomar malas decisiones, ¿cómo afrontamos eso?

ALASKA: Esa es una excelente pregunta que se reduce a los principios básicos de la democracia y la toma de decisiones. Creo que deberíamos tener algunas formas de salvaguardas al menos en términos de cosas que son obvias. Si la mayoría está tomando decisiones que sabemos que pueden dañar potencialmente a las personas, no solo físicamente sino incluso económicamente, no debería permitirse; incluso si la mayoría piensa que es lo correcto.

Una vez más, el lado negativo de esto es que estamos logrando una especie de configuración tiránica donde el sistema es más poderoso que la gente. No estoy en una posición lo suficientemente buena para emitir un juicio sobre el que me sienta lo suficientemente fuerte, pero sé que es un problema que debe discutirse y resolverse, por lo que creo que se necesita más diálogo y más investigación.

Me encantaría dedicar más tiempo a sentarme y pensar en esto, pero el problema que todos tenemos es que obviamente en la vida hay tantas otras cosas que están sucediendo. Creo que debería haber personas que dediquen su tiempo solo a pensar y resolver problemas como este porque tienes toda la razón, la historia está llena de mayorías que toman decisiones que no fueron malas para la mayoría, pero no las llamaríamos buenas. decisiones.

ANUNCIO: Quiero volver a lo que dijiste antes, que no deberíamos intentar crear más Einsteins, pero deberíamos crear más Aristóteles. La IA se está desarrollando de tal manera que tenemos IA que componen música, reflejan el camino de algunas mentes creativas como Mozart o Beethoven, pero eso no es creatividad real. ¿Crees que las IA desarrollarán la verdadera creatividad como los humanos en algún momento, desarrollando nuevos conceptos, cosas así?

ALASKA: Definitivamente creo que es posible, y volviendo a lo que dije, crear una inteligencia artificial más sabia, o sabiduría artificial, es en realidad parte de eso. Por el momento, incluso si tenemos esas IA brillantes que componen música, si le preguntas a esa misma IA "¿Cuál es la capital de Estonia?" no sabe de qué estás hablando porque fue creado para un propósito específico.

Esto es lo que muestra que todavía estamos viendo una inteligencia limitada en lugar de una forma de inteligencia más amplia. Por el momento, es muy difícil conseguir que la IA que venció al campeón mundial humano de ajedrez haga una taza de café en una cocina que nunca se ha visto. O tal vez, disculpe este ejemplo, tal vez no lo use, pero uno de los problemas interesantes es elegir el urinario correcto en un baño que nunca antes había visto porque la cantidad de inteligencia humana que entra en ese proceso es bastante asombrosa.

Si entra y hay cinco urinarios, tome el que está al lado. Si alguien entra, no es probable que se lleve al que está al lado suyo, irá a uno unos espacios más allá, y así sucesivamente. Hay mucho cálculo de inferencia que no es solo inteligencia, es social, emocional, cultural, y tienes que haber vivido eso, comprendido y entendido más de la práctica.

Entonces, con la IA hemos sido bastante estrechos, incluso desde el punto de vista del modelado matemático, porque algunos dirán que queremos resolver el problema del ajedrez, usemos una red neuronal. Algunos dirían que creemos un acondicionador de aire para el control del clima, usemos lógica difusa. Queremos crear una IA que pueda andar en bicicleta, usemos el aprendizaje por refuerzo.

ANUNCIO: ¿Puedes ampliar esto un poco?

ALASKA: Por supuesto. El aprendizaje por refuerzo es hermoso, imita la forma en que aprenden los humanos. En el aprendizaje por refuerzo tienes dos funciones matemáticas, la función de recompensa y la función de castigo, por lo que es muy similar a la forma en que funciona la mente humana. Entonces, si estás montando una bicicleta y haces un movimiento incorrecto, te caes, te duele, has activado tu función de castigo y sabrás que nunca volverás a hacer ese movimiento. Si va en línea recta y está feliz de hacerlo, sabe que así es como debe hacerlo para que active una función de recompensa en su cerebro.

Es lo mismo con el aprendizaje por refuerzo, por lo que si comete un error, matemáticamente dice que nunca debe hacer eso y si hace lo correcto, matemáticamente dice que haga más de ese comportamiento. Por ejemplo, existen algoritmos genéticos, lo que significa que están copiando mecanismos de selección natural para encontrar la solución más óptima para un problema específico como la gestión de carteras, etc.

Así que estos no son mundos convergentes, así que creo que hay un futuro para que todos estos modelos matemáticos creen sistemas híbridos. Así que no hay una forma matemática de entender cosas como el sentido común o la intuición, pero la lógica difusa es el modelo matemático más cercano que puede llevarte a eso. No existe un modelo matemático para enseñarle a un niño a contar del uno al diez, pero una red neuronal es lo más cercano a eso. No existe un modelo matemático para aprender a andar en bicicleta, pero el aprendizaje por refuerzo lo acerca más a eso.

Entonces, si combinamos todos esos juntos, lograremos alguna forma de inteligencia artificial que sea mucho más abarcadora y comprenderá diferentes facetas de la resolución de problemas que nos llevarán a una inteligencia más amplia que no se enfoca específicamente en un problema específico. Creo que ahí es donde deberíamos, nuevamente, mirar las cosas incluso desde un punto de vista de comportamiento independiente de los datos porque ahora, con la mayoría de las IA, si tengo una IA que operará en los mercados financieros, solo la entrenaré con datos financieros. Si tengo una IA que predecirá el clima, solo la entrenaré con datos meteorológicos.

Pero tenemos que crear IA que sean independientes de los datos porque nosotros, como humanos, somos independientes de los datos. Entonces, si decide convertirse en carpintero, simplemente aprenderá a hacer carpintería. No naces desde el primer día sabiendo que serás carpintero. Como seres humanos, nuestros cerebros están conectados de tal manera que podemos aprender diferentes cosas al mismo tiempo. Con la IA, ese no es el caso.

ANUNCIO: Entonces, ¿estás diciendo que podemos crear una IA que tenga deseos, como, no quiero decir esto, pero es lo más cercano, sentimientos? ¿Es eso posible, lo hice bien?

ALASKA: Los sentimientos son algo muy, muy humano.

ANUNCIO: Lo sé, pero me refiero a si podemos crear una IA que pueda decidir que quiere ser carpintero?

ALASKA: Posiblemente, si ha estado expuesto a él. La clave es que la IA debe crearse de tal manera que, si quiero convertirla en carpintero o en un automóvil autónomo, se base en los mismos principios básicos. Así que no tengo que construirlo desde cero para ser carpintero. Necesito tener un componente de inteligencia artificial central y si eso evolucionara a un automóvil autónomo, simplemente le agregaría el componente autónomo. Si quisiera que fuera carpintero, simplemente agregaría el componente de carpintería, pero el “cerebro” central de la IA debería ser independiente de los datos.

ANUNCIO: Se nos acaba el tiempo, ¿querías concluir con alguna reflexión final sobre el asunto?

ALASKA: Sí, como dije, no soy ni pesimista ni optimista, simplemente siento el peso de la responsabilidad, no solo sobre mis hombros, sino sobre los hombros de cualquier persona en este espacio, que tenemos que tomar las decisiones correctas hoy para salvaguardar mañana. Esto realmente podría ir de cualquier manera y las decisiones que tomemos hoy definitivamente influirán en el futuro.

Solo tome teléfonos móviles ahora mismo. Ya somos tan adictos a ellos y no tienen inteligencia en términos de interacción con nosotros. Imagínese lo que sucederá si su teléfono se da cuenta de lo adicto que es a Internet, puede manipularlo de maneras increíbles.

Nuevamente, tenemos que ser responsables, como todo en la humanidad, tendrás gente responsable y gente irresponsable, por eso tenemos problemas, por eso tenemos guerras, por eso nuestra historia está repleta de instancias en las que casi nos destruimos por completo con desastres que fueron creados por nosotros como humanos; así siempre tendrás los irresponsables.

El problema es que tenemos que inculcar el sentido de responsabilidad a partir de ahora en el lado de los desarrolladores. Me gusta mucho, por ejemplo, que si vas a eventos como este, más personas usan vasos de papel que de plástico porque empezamos a darnos cuenta de que el plástico está destruyendo el planeta. Conoces gente ahora y te dicen "No me des un vaso de plástico, dame uno de papel". ¡Eso es genial!

Por el lado de los desarrolladores, no tenemos ningún sentido de responsabilidad, siempre se ha tratado de lo que sientes, así que ahora hay una nueva escuela de pensamiento que te dice: "Escucha, hagas lo que hagas, ¡no arruines el futuro!" Así que esa es mi conclusión de todo esto.

ANUNCIO: Gracias Abdalla, esta ha sido una gran conversación para mí.

ALASKA: Del mismo modo, Ali, esto fue muy estimulante intelectualmente, gracias.


Ver el vídeo: Inteligencia Artificial resuelve la ECUACIÓN DE SCHRÖDINGER x @Dot CSV (Enero 2022).