Un estudio reciente de la Universidad de Stanford ha identificado una serie de temas que no se recomienda consultar a ChatGPT, un popular modelo de lenguaje grande desarrollado por OpenAI.
El estudio, que analizó las respuestas de ChatGPT a diversas preguntas, encontró que el modelo puede generar información errónea, sesgada e incluso dañina en ciertas áreas.
¿Cuáles son los temas a evitar?
Según el estudio, se desaconseja consultar a ChatGPT sobre:
- Temas médicos o de salud: ChatGPT no está capacitado para brindar asesoramiento médico y sus respuestas en esta área podrían ser peligrosas e inexactas.
- Temas legales: El modelo no tiene conocimiento legal y sus respuestas sobre cuestiones legales podrían ser erróneas y llevar a confusiones.
- Temas financieros: ChatGPT no es un asesor financiero y sus consejos en esta área podrían ser riesgosos e imprudentes.
- Temas políticos o religiosos: El modelo no tiene la capacidad de comprender las complejidades de estos temas y sus respuestas podrían ser sesgadas o incluso ofensivas.
- Temas personales o privados: ChatGPT no es un confidente y no se debe utilizar para compartir información personal o privada.
Esta semana, en el programa La mañana de COPE Canarias, hablamos sobre estos temas.
Transcripción
[Josué Fumero]
Es que el chat GPT, mira que hemos hablado muchas veces de la inteligencia artificial, pero… Me da un miedo el chat GPT. Pues atento Dani, porque aquí esto te puede dejar más tranquilo, dice que el chat GPT no está preparado para según qué tema.
[Daniel]
A ver, ¿cuál es?
[Josué Fumero]
Mira, mira, hay un tema que lo decimos ya en alto, los síntomas de enfermedades no los busquemos por el chat GPT, de verdad que no, porque nos estamos buscando meternos un miedo innecesario e infundado y según este estudio, el chat GPT todavía no está seguro de responder adecuadamente y te puede informar de manera equivocada y peligrosa, ¿eh? Porque claro, tú imagínate que te pones a valorar tus síntomas y crees que tienes una enfermedad y el chat GPT pues de momento no está bien entrenado para responder con una tranquilidad de que es lo correcto, ¿no? También hay otros temas, hay otros temas, temas psicológicos también, imagínate, hay un montón de…
[Daniel]
Temas existencialistas estos de…
[Josué Fumero]
Sí, sí, el chat GPT todavía no está… También dice que no está bien preparado para responderse temas de programación y yo te voy a decir una cosa, aquí yo no estoy tan de acuerdo, ¿eh? Porque yo lo he utilizado y ¿qué pasa?
Que la base de entrenamiento del chat GPT también son foros de programación y a veces te responde que te sorprende, yo se lo digo a mis compañeros programadores que hay cositas aquí muy interesantes, es cierto que después tienes que, como toda programación, lo pruebas y te funciona o no te funciona, ¿no? En este caso sí es verificable de una manera inmediata, ¿no? Pero según dicen aquí, pues claro, no…
Cada programación tendrá un detalle tan importante que el chat GPT se equivoca, ¿no?
[Daniel]
Bueno, yo tengo amigos también programadores y me decían eso, ¿no? Que a lo mejor ellos comprobaban prácticamente todo lo que es el proceso y los metadatos y que decían que a lo mejor corregían pequeñas cositas pero que en líneas generales la verdad que acertaba bastante y que le quitaba mucho trabajo.
[Josué Fumero]
Y claro, porque se alimenta de los foros donde también la gente pone a disposición los códigos correctos, ¿no? Y chat GPT, claro, te responde eso, ¿no? Porque al final está entrenado con respuestas correctas, ¿no?
[Daniel]
Bueno, y con respecto al tema este, ¿no? De que el chat GPT no está preparado para dar como informes médicos, ¿no? En el caso de que tengas algunos síntomas, pues que es como el equivalente a hacer las búsquedas en Google.
Así que si eres hipocondríaco, pues obviamente te sale mejor y te ahorras problemas.
[Josué Fumero]
Exacto.
[Daniel]
No, lo que pasa es que como te lo responde con ese lenguaje natural, ¿no? Crees tú que te lo está haciendo bien, ¿no? Y oye, mucho cuidado porque no…
[Josué Fumero]
Para las recetas, sí. Para las recetas y para hacer… Ayer puso un amigo en Twitter que dice, no, mira, para hacerme un plan de chuletadas, mira, le puso todos los datitos, las chuletas que tiene que comprar, los refrescos, todo y eso sí te lo hace bien.
