OpenAI crea chatbot para solucionar las 'alucinaciones' de modelos de IA : Digitall Post
Internacional criticgpt Gemini inteligencia artificial OpenAI

OpenAI crea chatbot para solucionar las ‘alucinaciones’ de modelos de IA

Business Insider México

Por: Business Insider México

hace 11 meses

OpenAI crea chatbot para solucionar las ‘alucinaciones’ de modelos de IA

Imagen: Depositphotos.

  • OpenAI creó un chatbot de IA para detectar alucinaciones en GPT-4.
  • CriticGPT ayuda a detectar errores generados por ChatGPT, aunque de momento solo se enfoca en sus capacidades de codificación.
  • Aunque efectivo en identificar errores, CriticGPT presenta limitaciones para respuestas más largas y complejas.
Uno de los mayores problemas que enfrentan actualmente los chatbots de inteligencia artificial —incluso los más avanzados como ChatGPT de OpenAI o Gemini de Google— son las llamadas «alucinaciones», que es cuando un modelo de IA da resultados incorrectos o engañosos.Estos errores pueden deberse a una variedad de factores, incluidos datos de entrenamiento insuficientes, suposiciones incorrectas hechas por el modelo de IA o sesgos en los datos utilizados para entrenarlo.Para hacer frente a esto, OpenAI construyó un modelo de IA llamado CriticGPT que intenta encontrar fallas en las respuestas de GPT-4; sin embargo, este funciona nada menos que con el propio GPT-4.Seguro te preguntarás: ¿cómo puede un modelo de IA detectar sus propios errores y alucinaciones? Bueno, CriticGPT fue desarrollado para ser un experto detectando mentiras. Para ello, los investigadores de OpenAI alimentaron al modelo con información falsa y luego le mostraron cómo responder con críticas detalladas.

OpenAI utiliza CriticGPT para captar las alucinaciones de GPT-4

CriticGPT escribe críticas de las respuestas de ChatGPT para ayudar a los entrenadores humanos a detectar errores durante el proceso de Aprendizaje por Refuerzo a partir de la Retroalimentación Humana (o RLHF, por sus siglas en inglés). Las críticas de CriticGPT se destacan por su capacidad para evitar «minucias» y alucinaciones, proporcionando así una retroalimentación más valiosa a los entrenadores humanos.Por ahora, OpenAI solo utiliza CriticGPT para evaluar las capacidades de codificación de GPT-4, ya que las respuestas son sencillas. CriticGPT logró detectar 85% de los errores de codificación, mientras que los humanos entrenados solo encontraron 25% de ellos. Sin embargo, la mejor opción resultó ser emparejar humanos con CriticGPT, quienes en conjunto se desempeñaron 60% mejor.Sin embargo, CriticGPT tiene limitaciones, incluyendo su incapacidad de analizar respuestas más complejas. El desarrollo futuro del modelo tiene como objetivo abordar estas limitaciones mediante la mejora de la comprensión de tareas más largas.OpenAI no es la única organización que trabaja en una manera de solucionar las alucinaciones en chatbots.Recientemente investigadores de la Universidad de Oxford presentaron un algoritmo que, según dicen, puede detectar alucinaciones de IA 79% de las veces. Esto es aproximadamente 10% mejor que los métodos actuales más eficientes; sin embargo, este algoritmo utiliza aproximadamente 10 veces más energía que una interacción típica de chatbot.

Conoce más historias en Digitallpost y Coolture.

Síguenos en FacebookTwitter e Instagram.



Internacional papa francisco Papa León XIV vaticano

Robert Francis Prevost, un moderado estadounidense con fuertes lazos con Perú

AFP

Por: AFP

hace 1 mes

Robert Francis Prevost, un moderado estadounidense con fuertes lazos con Perú

Robert Francis Prevost llegó a Perú por primera vez como joven misionero agustino y años después partió desde el país andino como obispo rumbo al Vaticano, donde este jueves se convirtió en el primer papa estadounidense, con el nombre de León XIV.

Prevost, de 69 años y que también tiene nacionalidad peruana, llega al trono de San Pedro con una reputación de moderado, crucial en un momento en que la Iglesia aparece muy dividida.

Desde el balcón de la basílica de San Pedro del Vaticano, el nuevo papa instó a «construir puentes» a través del «diálogo», avanzando «sin miedo, unidos, dando la mano a Dios y dándonosla entre nosotros».

«Dios nos ama, Dios os ama a todos, y el mal no prevalecerá», afirmó en su primer discurso, en el que trató de unir y tranquilizar ante un mundo asolado por las guerras.

«Mucho por hacer»

Prevost ha pasado un tercio de su vida en Estados Unidos. El resto entre Europa y América Latina, una de las periferias del mundo de donde también era el argentino Jorge Mario Bergoglio.

El diario italiano La Repubblica lo llamó «el menos estadounidense de los estadounidenses» por la moderación de sus palabras.

La idea de un papa norteamericano estuvo por siglos descartada en Roma, ya fuera por la distancia –estaban tan lejos que normalmente llegaban tarde a los cónclaves– o por decisiones geopolíticas.

Según el sitio especializado Crux, tener un pontífice de la primera potencia mundial hacía temer además que la CIA pudiera meter sus manos en la Iglesia.

Arzobispo emérito de Chiclayo, a unos 750 km al norte de Lima, Prevost obtuvo la nacionalidad peruana en 2015.

Dejó Perú para sumarse al gobierno vaticano, donde dirigió el importante dicasterio para los Obispos, que tiene la destacada función de aconsejar al papa sobre los nombramientos de los jerarcas de la Iglesia.

Tras la muerte de Francisco, Prevost dijo que aún quedaba «mucho por hacer» en la transformación de la Iglesia.

«No podemos parar, no podemos retroceder. Tenemos que ver cómo el Espíritu Santo quiere que la Iglesia sea hoy y mañana, porque el mundo de hoy, en el que vive la Iglesia, no es el mismo que el mundo de hace 10 o 20 años», dijo el mes pasado a Vatican News.

«El mensaje siempre es el mismo: proclamar a Jesucristo, proclamar el Evangelio, pero la manera de llegar a las personas de hoy, los jóvenes, los pobres, los políticos, es diferente», añadió.

Misionero en Perú

Fue uno de los cardenales más cercanos a Francisco, cuyo pontificado generó resistencias dentro de los sectores más conservadores.

Pero al mismo tiempo, su sólida formación en Derecho Canónico tranquiliza en estos círculos que buscan un enfoque más centrado en la Teología.

Prevost nació el 14 de septiembre de 1955 en Chicago y asistió a un seminario menor de la Orden de San Agustín en San Luis como novicio antes de graduarse en Matemáticas en Filadelfia.

Políglota, estudió Derecho Canónico en Roma, donde también obtuvo un doctorado.

Se unió a los agustinos en Perú en 1985 para la primera de sus misiones en el país andino.

Al regresar a Chicago en 1999, fue nombrado prior provincial de los agustinos en esa región estadounidense y posteriormente prior general de la orden en todo el mundo.

Regresó a Perú en 2014 cuando Francisco lo designó administrador apostólico de la diócesis de Chiclayo.

Casi una década después, entró en la curia en sustitución del cardenal canadiense Marc Ouellet, que fue acusado de agredir sexualmente a una mujer y renunció por motivos de edad. Entonces, el difunto pontífice lo nombró también presidente de la comisión pontificia para América Latina.

Conoce más historias en Digitallpost.

Síguenos en FacebookX e Instagram.