{"id":9214,"date":"2021-10-04T21:31:10","date_gmt":"2021-10-04T21:31:10","guid":{"rendered":"https:\/\/www.abrima.com\/blog\/?p=9214"},"modified":"2021-10-04T21:31:18","modified_gmt":"2021-10-04T21:31:18","slug":"libros-resumidos-por-una-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/www.abrima.com\/blog\/libros-resumidos-por-una-inteligencia-artificial\/","title":{"rendered":"Libros resumidos por una Inteligencia Artificial"},"content":{"rendered":"\n

Las Inteligencias artificiales son capaces de realizar muchas cosas, sin embargo, suelen tener problemas a la hora de interpretar un texto o una creaci\u00f3n desde cero. Esto se debe a un problema habitual de los modelos de aprendizaje autom\u00e1tico conocido como \u00abProblema de alineaci\u00f3n<\/strong>\u00ab.<\/p>\n\n\n\n

Al resumir un libro por cap\u00edtulos, los cient\u00edficos pueden analizar el comportamiento y la \u00abalineaci\u00f3n\u00bb de la Inteligencia Artificial con sus objetivos, as\u00ed como corregir cualquier error.<\/p><\/blockquote>\n\n\n\n

El \u00abProblema de alineaci\u00f3n\u00bb surge cuando la Inteligencia Artificial no sigue los patrones humanos<\/strong> y encuentra soluciones alternativas a un problema. Por tanto, construir IA seguras requiere encontrar formas de cuantificar de forma muy clara y correcta lo que queremos que la IA haga en cada momento. Por desgracia, esto es un proceso muy complicado.<\/p>\n\n\n\n

Por suerte, un equipo de cient\u00edficos de OpenAI, la compa\u00f1\u00eda de inteligencia artificial propiedad de Elon Musk, ha encontrado una soluci\u00f3n escalable para este \u00abProblema de Alineamiento\u00bb que funciona en tareas en las que los modelos de alineamiento son dif\u00edciles de evaluar o requieren mucho tiempo para los humanos. Esta soluci\u00f3n se basa en resumir libros completos.<\/strong><\/p>\n\n\n\n

Estos res\u00famenes se hacen por partes, descomponiendo el libro en varias partes (cap\u00edtulos). De esta forma, la IA ha demostrado ser capaz de encontrar eventos importantes dentro de un libro y de hacer res\u00famenes de los mismos, que algunos profesores de literatura han llegado a calificar con una nota de 7 sobre 10<\/strong>. Para demostrar el funcionamiento de estos res\u00famenes, utilizaron \u00abLas Aventuras de Alicia en el Pa\u00eds de las Maravillas\u00bb, un libro de m\u00e1s de 26.000 palabras que fue resumido en menos de 6.000. Tambi\u00e9n utilizaron otras obras m\u00e1s extensas como \u00abRomeo y Julieta\u00bb y \u00abOrgullo y Prejuicio\u00bb. Estos res\u00famenes est\u00e1n disponibles en el blog oficial de OpenAI<\/a>.<\/p>\n\n\n\n

Esta soluci\u00f3n escalable combina el aprendizaje por refuerzo<\/strong> a partir de la retroalimentaci\u00f3n humana y la descomposici\u00f3n de tareas recursivas<\/strong>. Por ahora, el modelo requiere de la participaci\u00f3n de un humano, que debe analizar los resultados y realizar correcciones, as\u00ed como descomponer la tarea en partes m\u00e1s peque\u00f1as. Sin embargo, en el futuro, se espera que la IA pueda realizar estas tareas por s\u00ed misma, sin intervenci\u00f3n de un ser humano y sobre la totalidad de la obra.<\/p>\n\n\n\n

Aunque puede parecer algo trivial, este entrenamiento servir\u00e1 para mejorar el entrenamiento de las IA, ya que los modelos modernos est\u00e1n preparados para realizar\u00a0tareas cada vez m\u00e1s complejas, por lo que ser\u00e1 cada vez m\u00e1s dif\u00edcil para los humanos\u00a0realizar evaluaciones informadas<\/strong>\u00a0de los resultados de los modelos. Esto, a su vez, dificulta la detecci\u00f3n de problemas sutiles en los resultados del modelo que podr\u00edan tener consecuencias negativas cuando se implementan estos modelos.<\/p>\n\n\n\n

Con este nuevo enfoque de descomposici\u00f3n de tareas, se capacita a los humano para evaluar los resultados del modelo de aprendizaje autom\u00e1tico, utilizando otros modelos. Por ejemplo, podr\u00e1n comparar los res\u00famenes de los libros y evaluar estos en relaci\u00f3n la lectura del texto original.<\/p>\n\n\n\n