Apuntes del curso \u201cC\u00f3mo usar ChatGPT y otras herramientas de IA generativa en tu redacci\u00f3n\u201d, impartido por el Centro Knight para el Periodismo en las Am\u00e9ricas.<\/p>\n
PARTE I<\/p>\n
Independientemente del \u00e1rea de especializaci\u00f3n de un comunicador, su rol siempre implicar\u00e1 la gesti\u00f3n de informaci\u00f3n y la creaci\u00f3n de contenidos como tareas fundamentales. Por eso, en el centro de la discusi\u00f3n sobre Inteligencia Artificial (IA) est\u00e1 el tema de la creaci\u00f3n de contenidos y, de manera especial, el periodismo y la producci\u00f3n de noticias. Por eso, realizar\u00e9 dos entregas en el blog, sobre la implementaci\u00f3n de ChatGPT y otras herramientas de Inteligencia Artificial Generativa, a partir de mi participaci\u00f3n en el curso: \u201cC\u00f3mo usar ChatGPT y otras herramientas de IA generativa en tu redacci\u00f3n\u201d, impartido por el Centro Knight para el Periodismo en las Am\u00e9ricas, entre septiembre y octubre de 2023.<\/p>\n
Durante el primer m\u00f3dulo del curso, se repasaron los fundamentos conceptuales de IA, comenzando por una definici\u00f3n que la misma instructora experta del m\u00f3dulo, Aimee Rinehart, gerente senior de Producto de Inteligencia Artificial de Associated Press, describi\u00f3 como sencilla: \u201cla Inteligencia Artificial (IA) es un subcampo de la inform\u00e1tica\u201d. Y me encanta la siguiente idea que agreg\u00f3 a su definici\u00f3n: \u201cla palabra inteligencia indica que la computadora de alguna manera tiene libre albedr\u00edo o puede razonar, pero no puede\u201d. Sirva esta introducci\u00f3n para ir disipando un poco el pavor de quienes piensan que esta podr\u00eda reemplazar la inteligencia humana porque, de hecho, esta debe ser entrenada, primero, con informaci\u00f3n generada por los humanos.<\/p>\n
Si bien, ChatGPT es el sistema m\u00e1s popular, y del que pareciera que todos hablan, hay otros sistemas de IA generativa, como son: Bard de Google y Claudde de Anthrophics, los cuales, de acuerdo con Rinehart, a veces ofrecen mejores resultados. Pero como ella misma se\u00f1ala, ChatGPT es el primero y ya cuenta con m\u00e1s de 100 millones de usuarios. Una cifra que parece insinuar que, ciertamente, hay mucha necesidad de herramientas como estas en determinados campos profesionales. Sin embargo, la pregunta sobre cu\u00e1n segura es la herramienta para garantizar la calidad del trabajo que realiza parece haber llegado en el mismo paquete que sus bondades, por lo que esta es una discusi\u00f3n activa que todav\u00eda no ha arrojado ideas conclusivas. Pero hay muchas implementaciones en curso, e incluso resultados de su aplicaci\u00f3n, que ya pueden ser consultados como referencia del tema. Nos toca, mientras tanto, seguir asistiendo como humanidad a los descubrimientos que van ocurriendo en simult\u00e1neo con el transcurrir de nuestras vidas, y eso parece generar bastante inquietud, sobre todo, porque heredamos muchos otros descubrimientos a los que solo llegamos, los usamos y los dimos por hecho.<\/p>\n
Ahora estamos en el centro de los cambios que se est\u00e1n gestando, tanto a nivel tecnol\u00f3gico como en otros \u00e1mbitos que tambi\u00e9n afectan directamente la manera en que operamos y que podr\u00edan tener alg\u00fan impacto en el campo laboral; y, aunque faltan muchas respuestas, s\u00ed se sabe con certeza que el trabajo, en unos campos m\u00e1s que en otros, no volver\u00e1 a ser el mismo despu\u00e9s de la IA. Esto, sin embargo, quiero reiterar, no significa que habr\u00e1 un desplazamiento de la inteligencia humana, sino que, igual como ha ocurrido con otros avances tecnol\u00f3gicos, ambas se complementar\u00e1n. Por lo menos eso es lo que indican las implementaciones que se han realizado hasta el momento. Y es posible, incluso, anticipan los expertos, que los datos creados por humanos lleguen a tener un valor aun mayor.<\/p>\n
Pero \u00bfc\u00f3mo funciona exactamente la IA generativa y qu\u00e9 problemas se asocian a esta? La base de la IA generativa, como ChatGPT, son los denominados Modelos Ling\u00fc\u00edsticos (LLMs), definidos estos como \u201cgrandes franjas de informaci\u00f3n que se extraen de internet para entrenar a las m\u00e1quinas\u2026\u201d. Pero la pregunta es \u00bfen qu\u00e9 se entrena a las m\u00e1quinas y c\u00f3mo obtienen estas las respuestas a cuestiones particulares? En el \u00e1mbito period\u00edstico, donde confirmar la fuente es por poco una base fundamental del c\u00f3digo deontol\u00f3gico de la disciplina, esto constituye un serio problema. En el campo acad\u00e9mico, donde la fuente no solo debe ser confirmada sino tambi\u00e9n reconocida, tambi\u00e9n constituye un problema de magnitud considerable.<\/p>\n
Desde esa perspectiva, puede concluirse que, en ambos casos, la preocupaci\u00f3n por la transparencia es leg\u00edtima y, desafortunadamente, hasta el momento no se tiene una respuesta clara. Adem\u00e1s, los expertos han realizado experimentos mediante una t\u00e9cnica llamada Sparse-Quantizied Representation (SpQR), los cuales han expuesto la manera en que los LLMs se \u201cerosionan y colapsan cuando se centran en otro contenido creado por IA\u201d, llegando a describirlo como \u201cuna fotocopia de una foto impresa\u201d.<\/p>\n
Y mientras la discusi\u00f3n sobre estas cuestiones continuar\u00e1 en las pr\u00f3ximas semanas, me ha maravillado de este curso del Centro Knight para el Periodismo en las Am\u00e9ricas, el an\u00e1lisis de los grandes desaf\u00edos que presenta la IA para la humanidad debido a la forma en que esta opera. El siguiente es un recuento de esos desaf\u00edos:<\/p>\n
– Sesgo en la propiedad intelectual debido, principalmente, a que las fuentes de las que se nutren ya tienen esos sesgos que pueden ser de g\u00e9nero, \u00e9tnicos o de otro tipo.
\n– Alto impacto ambiental, porque la IA consume grand\u00edsimas cantidades de energ\u00eda, dejando una huella ecol\u00f3gica que se suma al que ya es un muy deteriorado medioambiente.
\n– Disparidad de riquezas. Se dice que: \u201cdos tercios del trabajo realizado con IA se ha realizado en solo 15 ciudades de Estados Unidos\u201d.<\/p>\n
A lo anterior, sumemos tambi\u00e9n la potencial hegemon\u00eda que puede ejercerse al decidir d\u00f3nde estar\u00e1n disponibles estos sistemas y d\u00f3nde no. Si vives en Latinoam\u00e9rica, ya habr\u00e1s escuchado, por ejemplo, que la herramienta de chatbot Claude no est\u00e1 disponible en la regi\u00f3n. Sobre las diferentes operaciones que concretamente se pueden realizar con la IA, se distingue entre: Automatizaci\u00f3n de procesos, IA de bajo riesgo e IA de alto riesgo. Para aterrizar esto al campo period\u00edstico, en el curso se ofrecieron los siguientes ejemplos:<\/p>\n
– Process automation: enviar simult\u00e1neamente una historia al sitio web y a las Redes Sociales.
\n– Low-risk AI: crear historias a partir de fuentes de datos consistentes como reportes policiales y otros tipos de informaci\u00f3n estructurada.
\n– High-risk AI: escribir nuevas historias utilizando fuentes de datos estructurados y no estructurados.<\/p>\n
Para ilustrar mejor la implementaci\u00f3n de la IA en el campo period\u00edstico, comparto la siguiente cita de una de las lecturas que form\u00f3 parte del material bibliogr\u00e1fico obligatorio del curso, y que contiene un ejemplo de implementaci\u00f3n de IA generativa realizado por Scott Brodbeck, fundador de Local News Now, en su sitio ARLnow:<\/p>\n
Cita traducida del ingl\u00e9s:
\n\u201cA principios de la semana pasada, la automatizaci\u00f3n del resumen de audio fall\u00f3 y no pas\u00f3 las historias del d\u00eda al modelo. Entonces, cuando se le pidi\u00f3 a la IA un resumen de ARLnow, \u201cen ausencia de historias, simplemente invent\u00f3 cosas. \u00a1Y son\u00f3 bastante convincente!\u201d.<\/p>\n
Y, precisamente en el campo period\u00edstico, esto puede llevarnos a hacernos la pregunta sugerida por el candidato a doctorado del Instituto de Internet de Oxford, Felix Simon, y que trajo a la mesa de discusi\u00f3n la instructora Rinehart: \u00bfQu\u00e9 tanto control podr\u00eda tener la IA sobre las noticias? Pero mientras vamos descubriendo la respuesta, ella ofreci\u00f3 tambi\u00e9n varias sugerencias sobre c\u00f3mo utilizar los chatbots y aprovecharlos de la mejor manera en el periodismo: estas herramientas como ChatGPT, dijo, \u201ctienen dos componentes: el lenguaje y el conocimiento. Utilice sus capacidades ling\u00fc\u00edsticas. No le pidas que escriba una historia para ti, pero ingresa tu historia asegur\u00e1ndote que no es un tema sensible; y p\u00eddele que escriba titulares, la resuma y la convierta en un guion de transmisi\u00f3n. Nada deber\u00eda publicarse directamente sin supervisi\u00f3n humana\u201d.<\/p>\n
El primer m\u00f3dulo concluy\u00f3 con la sugerencia de que \u201cdebemos comprender la tecnolog\u00eda porque solo as\u00ed podemos anticiparnos a determinar c\u00f3mo estos sistemas pueden integrarse a los flujos de trabajo y evitar que sea la misma tecnolog\u00eda la que decida esto\u201d. Adem\u00e1s, solo con conocimiento sobre c\u00f3mo esta opera podremos exigir marcos regulatorios transparentes y \u00e9ticos en todos sus aspectos.<\/p>\n
Durante el segundo m\u00f3dulo del curso, que cont\u00f3 con Sil Hamilton como instructor experto, quien es investigador sobre Inteligencia Artificial (IA) en Hacks\/Hackers, \u201cuna red de periodistas que reflexiona y analiza el futuro de las noticias a trav\u00e9s de charlas, hackathones y conferencias\u201d, se abord\u00f3 la evoluci\u00f3n de los modelos de lenguaje, desde el propuesto por el matem\u00e1tico Claude Shannon en 1951, hasta los que utilizan actualmente las nuevas herramientas de Inteligencia Artificial.<\/p>\n
El desarrollo de la Inteligencia Artificial como tecnolog\u00eda<\/p>\n
En sentido general, seg\u00fan expuso Hamilton, \u201clos modelos de lenguaje ofrecen una distribuci\u00f3n de probabilidades de cierto vocabulario\u201d, lo cual se consigue a trav\u00e9s de la denominada neurona artificial que, en conjunto con otras, conforman redes de neuronas artificiales que pueden ser entrenadas para aprender a modelar secuencias de palabras, hasta llegar a desarrollar modelos de lenguaje. Este es el momento cuando se considera que estos sistemas \u201cse han vuelto inteligentes\u201d (Inteligencia Artificial).<\/p>\n
Explic\u00f3 el instructor, sin embargo, que a los cient\u00edficos les tom\u00f3 tanto tiempo descubrirlo porque \u201cpensaron que era m\u00e1s f\u00e1cil decirle a la m\u00e1quina qu\u00e9 hablar, que entrenarla para que aprendiera a hablar\u201d, en lo que se denomin\u00f3 Inteligencia Artificial Simb\u00f3lica. Esto significa, concretamente, \u201cque en lugar de decirle a la IA que aprendiera qu\u00e9 es un perro, con ejemplos, le dijeron que un perro es un animal. Pero para decirle qu\u00e9 es un animal, tuvieron que decirle qu\u00e9 es la vida, y luego que el perro es vida\u201d. Siguiendo esta l\u00f3gica, habr\u00eda que describirle el mundo palabra por palabra a la IA, lo cual no es posible. As\u00ed que esa conclusi\u00f3n caus\u00f3 el denominado \u201cinvierno de la Inteligencia Artificial\u201d en la d\u00e9cada de 1980.<\/p>\n
Dado que el ser humano tiene un esp\u00edritu de b\u00fasqueda constante, los investigadores de este campo consideraron que las redes neurales podr\u00edan aprender el lenguaje y predecir cada palabra siguiente en una secuencia ling\u00fc\u00edstica, lo cual ocurri\u00f3 en la d\u00e9cada del 2000. M\u00e1s recientemente, sobre todo en los \u00faltimos cinco a\u00f1os, los modelos de lenguaje fueron tan perfeccionados que se consider\u00f3 que estos se hab\u00edan vuelto \u201cinteligentes\u201d. A esto se sum\u00f3 el desarrollo de los \u201cdiffusion models\u201d (modelos de difusi\u00f3n), los cuales pueden producir un objeto complejo de una sola vez, volvi\u00e9ndose particularmente \u00fatiles para las im\u00e1genes, con la novedad de que este, adem\u00e1s, pod\u00eda trabajar adecuadamente con el primero, el modelo de lenguaje. Asimismo, se empezaron a desarrollar los \u201cmultimodal models\u201d (modelos multimodal), que son modelos de lenguaje y modelos de difusi\u00f3n combinados.<\/p>\n
Fundamentos sobre la generaci\u00f3n de textos<\/p>\n
Dado que la generaci\u00f3n de textos se fundamenta en la predicci\u00f3n de palabras en una determinada secuencia ling\u00fc\u00edstica, una de las cuestiones a responder es \u00bfCu\u00e1l es la probabilidad de que esa secuencia aparezca en la naturaleza? As\u00ed que los modelos de lenguaje est\u00e1n dise\u00f1ados para predecir esa probabilidad, es decir, han sido entrenados para brindar la siguiente palabra matem\u00e1ticamente m\u00e1s probable en dicha secuencia. Y ese proceso se repite una y otra vez. Se trata de proporcionarle \u201csuficiente potencia computacional, suficientes neuronas artificiales y ejemplos de palabras extra\u00eddas de Internet\u201d.<\/p>\n
En definitiva, se trata de aplicar la l\u00f3gica al conocimiento que se tiene del mundo para ofrecer palabras que, combinadas en una secuencia, parezcan coherentes. Por eso, de alguna manera, se convierte en un modelo mundial, y como la capacidad de predecir ha sido considerada \u201ctan buena\u201d, pareciera que estos se volvieron inteligentes, pero no es m\u00e1s que un sistema devolvi\u00e9ndole al mundo su conocimiento colectivo sobre las cosas, aunque sin decir de d\u00f3nde las ha tra\u00eddo. As\u00ed trabaja, por ejemplo, el actualmente popular ChatGPT y otros sistemas de Inteligencia Artificial generativa.<\/p>\n
Durante este m\u00f3dulo del curso, sin embargo, se destac\u00f3 que \u201ces importante recordar que aunque parezca que los sistemas de Inteligencia Artificial est\u00e1n desarrollando operaciones matem\u00e1ticas o escribiendo ensayos, en realidad siempre est\u00e1n haciendo la misma operaci\u00f3n\u201d. Esto es, predecir la palabra que sigue en una secuencia ling\u00fc\u00edstica o el n\u00famero en una secuencia matem\u00e1tica. Pero \u00bfQu\u00e9 pasa cuando el modelo no est\u00e1 seguro de qu\u00e9 palabras deber\u00edan venir despu\u00e9s en una secuencia determinada? Ocurre lo que en inform\u00e1tica se conoce como \u201challucinations\u00bb (alucinaciones), que es cuando el sistema parece mentir, brindando informaci\u00f3n incorrecta o falsa.<\/p>\n
En el marco de este m\u00f3dulo, se cit\u00f3 el ejemplo de un caso emblem\u00e1tico en el \u00e1rea jur\u00eddica, sobre un abogado que solicit\u00f3 a ChatGPT los precedentes de un caso en el que trabajaba, pero cuando el juez revis\u00f3 la lista que este le proporcion\u00f3 determin\u00f3 que todos hab\u00edan sido inventados. El sistema, sin embargo, \u201cno miente conscientemente\u2026 pero las alucinaciones ser\u00e1n dif\u00edciles de corregir y sin duda son un problema, porque el modelo nunca sabr\u00e1 todo sobre el mundo, pero siempre har\u00e1 todo lo posible para continuar con las secuencias dadas\u201d, explica el instructor. En una referencia m\u00e1s clara, el instructor dijo: \u201ces como un ser humano exagerando sus conocimientos en un \u00e1rea en que tiene menos confianza\u201d.<\/p>\n
En definitiva, las alucinaciones son las que hacen que los sistemas de Inteligencia Artificial generativa sean dudosos para asuntos en los que se requiere de alta precisi\u00f3n. En el centro de la discusi\u00f3n, por ejemplo, est\u00e1n las noticias, donde la exactitud y verificaci\u00f3n de los hechos constituyen principios ineludibles. Atendiendo a cuestiones como estas, se ha desarrollado una tecnolog\u00eda denominada \u201cRetrieval Augmented Generation (RAG), que en el \u00e1mbito period\u00edstico equivale a tratar de que el modelo imite la actuaci\u00f3n de un periodista, investigando antes de escribir un art\u00edculo. De esa manera, al modelo se le proporciona un conjunto de datos, que pueden ser los archivos verificados de la redacci\u00f3n de un medio sobre un tema determinado, y este revisar\u00e1 esos archivos y producir\u00e1 un art\u00edculo en el que es menos probable que ocurran alucinaciones.<\/p>\n
Las discusiones abiertas sobre la Inteligencia Artificial generativa<\/p>\n
– Dado que los sistemas han sido entrenados con grandes cantidades de informaci\u00f3n preexistente \u00bfDe qui\u00e9n es esa informaci\u00f3n que ha sido tomada para entrenarlos sin otorgar los cr\u00e9ditos? Y otra pregunta, toda vez que un sistema de Inteligencia Artificial es alimentado con nueva informaci\u00f3n sobre la que se le pide que realice alguna acci\u00f3n, como por ejemplo transcribir, traducir o mejorar el texto \u00bfC\u00f3mo este reutiliza esa informaci\u00f3n para seguir entren\u00e1ndose y generando m\u00e1s contenido para otros usuarios?<\/p>\n
Abordaremos estas y otras cuestiones en la parte II de este trabajo que realizaremos en una siguiente entrega del blog.<\/p>\n","protected":false},"excerpt":{"rendered":"
Apuntes del curso \u201cC\u00f3mo usar ChatGPT y otras herramientas de IA generativa en tu redacci\u00f3n\u201d, impartido por el Centro Knight para el Periodismo en las Am\u00e9ricas. PARTE I Independientemente del \u00e1rea de especializaci\u00f3n de un comunicador, su rol siempre implicar\u00e1 la gesti\u00f3n de informaci\u00f3n y la creaci\u00f3n de contenidos como tareas fundamentales. Por eso, en […]<\/p>\n","protected":false},"author":4,"featured_media":4569,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-3803","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"_links":{"self":[{"href":"https:\/\/firmaescribanos.com\/es_es\/wp-json\/wp\/v2\/posts\/3803","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/firmaescribanos.com\/es_es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/firmaescribanos.com\/es_es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/firmaescribanos.com\/es_es\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/firmaescribanos.com\/es_es\/wp-json\/wp\/v2\/comments?post=3803"}],"version-history":[{"count":4,"href":"https:\/\/firmaescribanos.com\/es_es\/wp-json\/wp\/v2\/posts\/3803\/revisions"}],"predecessor-version":[{"id":4577,"href":"https:\/\/firmaescribanos.com\/es_es\/wp-json\/wp\/v2\/posts\/3803\/revisions\/4577"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/firmaescribanos.com\/es_es\/wp-json\/wp\/v2\/media\/4569"}],"wp:attachment":[{"href":"https:\/\/firmaescribanos.com\/es_es\/wp-json\/wp\/v2\/media?parent=3803"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/firmaescribanos.com\/es_es\/wp-json\/wp\/v2\/categories?post=3803"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/firmaescribanos.com\/es_es\/wp-json\/wp\/v2\/tags?post=3803"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}