{"id":10485,"date":"2023-08-02T15:44:12","date_gmt":"2023-08-02T15:44:12","guid":{"rendered":"https:\/\/revistaciudad.com.ar\/web\/?p=10485"},"modified":"2023-08-02T15:44:14","modified_gmt":"2023-08-02T15:44:14","slug":"que-es-chatgpt-el-revolucionario-sistema-de-inteligencia-artificial-que-preocupa-a-algunos-expertos","status":"publish","type":"post","link":"https:\/\/revistaciudad.com.ar\/web\/blog\/2023\/08\/02\/que-es-chatgpt-el-revolucionario-sistema-de-inteligencia-artificial-que-preocupa-a-algunos-expertos\/","title":{"rendered":"Qu\u00e9 es ChatGPT, el revolucionario sistema de inteligencia artificial que preocupa a algunos expertos"},"content":{"rendered":"\n

A fines de 2022, cuando el mundo entraba en el esp\u00edritu de fin de a\u00f1o y ten\u00eda los ojos centrados en la Copa del Mundo en Qatar, debut\u00f3 un programa que pronto se consider\u00f3 un paso adelante en el avance de la inteligencia artificial: ChatGPT.<\/strong><\/p>\n\n\n\n

Este nuevo sistema puede generar contenidos escritos de forma altamente coherente y muy parecidos a los creados por los humanos.<\/p>\n\n\n\n

A pesar de los errores y carencias que a\u00fan existen, la capacidad ya demostrada por el programa, y \u200b\u200bsu potencial para mejorar a largo plazo, despierta no solo admiraci\u00f3n, sino tambi\u00e9n temores<\/strong>.<\/p>\n\n\n\n

Basta con mirar la cantidad de rese\u00f1as que asocian ChatGPT <\/strong>con la palabra \u00abamenaza\u00bb. Muchos sienten que el programa parece demasiado convincente al imitar el habla de un ser humano y prev\u00e9n la aparici\u00f3n de problemas.<\/p>\n\n\n\n

Son interrogantes sobre la posibilidad de una fuerte ruptura en \u00e1reas como la creatividad, el aprendizaje y la educaci\u00f3n, el trabajo, la seguridad digital y la democracia misma, como se afirma en un art\u00edculo reciente de\u00a0The New York Times<\/em>.<\/p>\n\n\n\n

\u00bfQu\u00e9 es el programa?<\/h2>\n\n\n\n

ChatGPT es, b\u00e1sicamente, un robot virtual (chatbot) que responde una variedad de preguntas, realiza tareas por escrito, conversa con fluidez e incluso da consejos sobre problemas personales (aunque se advierte que no tiene este objetivo).<\/p>\n\n\n\n

Sus posibilidades de generar contenido son inmensas.<\/p>\n\n\n\n

Puede, por ejemplo, ense\u00f1arte a preparar un stroganoff \u2014y con un giro diferente en la receta, si lo especificas\u2014, darte consejos para conseguir un trabajo, escribir poes\u00eda, trabajos acad\u00e9micos y tambi\u00e9n redactar una carta de reconciliaci\u00f3n para un amigo del que te has distanciado.<\/p>\n\n\n\n

ChatGPT responde en cuesti\u00f3n de segundos a una petici\u00f3n aleatoria sobre c\u00f3mo \u00abescribir un poema sobre inteligencia artificial al estilo de Carlos Drummond de Andrade\u00bb; la calidad del resultado, dependiendo de quien lo critique, puede ser discutible.<\/p>\n\n\n\n

Seg\u00fan las pruebas de SEO.ai, ChatGPT est\u00e1 disponible en casi 100 idiomas<\/strong>, pero el rendimiento del modelo var\u00eda seg\u00fan el idioma (funciona mejor en ingl\u00e9s).<\/p>\n\n\n\n

El sistema fue desarrollado por OpenAI, empresa fundada en 2015 en EE.UU. por Sam Altman (hoy su principal figura) y por el omnipresente Elon Musk (quien la abandon\u00f3 en 2018 por considerar que hab\u00eda un conflicto de intereses con su principal empresa, Tesla).<\/p>\n\n\n\n

\"Elon
Pie de foto,Elon Musk fue uno de los fundadores de la plataforma, pero luego dej\u00f3 su participaci\u00f3n porque lo consideraba un conflicto de intereses con su compa\u00f1\u00eda Tesla.<\/figcaption><\/figure>\n\n\n\n

Cinco d\u00edas despu\u00e9s de su lanzamiento, ChatGPT lleg\u00f3 a m\u00e1s de 1 mill\u00f3n de usuarios (quienes, ir\u00f3nicamente, tienen que ser humanos; tienes que demostrar que no eres un robot al iniciar sesi\u00f3n). Estas interacciones se est\u00e1n utilizando para entrenar y desarrollar el modelo.<\/p>\n\n\n\n

OpenAI dice que el uso ser\u00e1 gratuito y abierto a todos durante esta etapa de \u00abprueba e investigaci\u00f3n\u00bb, lo que lleva a los expertos a especular sobre los futuros tipos de monetizaci\u00f3n de la herramienta.<\/p>\n\n\n\n

La compa\u00f1\u00eda tambi\u00e9n advierte que, en ese per\u00edodo, el software \u00abpuede generar ocasionalmente informaci\u00f3n incorrecta o enga\u00f1osa\u00bb y que su historial de datos se limita a 2021.<\/p>\n\n\n\n

A pesar de ser se\u00f1alado como una posible amenaza a la hegemon\u00eda de Google como facilitador de informaci\u00f3n en internet, el sistema a\u00fan comete errores graves, como decir que Brasil ha ganado al menos cinco premios Oscar (de hecho, el pa\u00eds nunca ha ganado una estatuilla).<\/p>\n\n\n\n

\"Sam
Pie de foto,Sam Altman es el director ejecutivo de OpenAI.<\/figcaption><\/figure>\n\n\n\n

\u00bfPor qu\u00e9 ChatGPT se considera un gran avance para la IA?<\/h2>\n\n\n\n

Los potentes programas de inteligencia artificial basados \u200b\u200ben texto funcionan almacenando cantidades gigantescas de datos (con \u00e9nfasis en palabras y conversaciones en este caso) y con algoritmos para predecir la mejor formulaci\u00f3n de una oraci\u00f3n.<\/p>\n\n\n\n

Estos se denominan modelos de lenguaje grande<\/strong> (LLM, por sus siglas en ingl\u00e9s).<\/p>\n\n\n\n

El profesor de la Unifesp \u00c1lvaro Machado Dias, neurocient\u00edfico, explica que durante la capacitaci\u00f3n del software, al chatbot se le hacen preguntas como \u00ab\u00bfqu\u00e9 es un cilindro?\u00bb y los t\u00e9cnicos elaboran sus propias respuestas.<\/p>\n\n\n\n

\u00abSi la respuesta del chatbot no es v\u00e1lida, las correctas se insertan en el sistema para ense\u00f1arle. Esto se pasa a otras situaciones autom\u00e1ticamente\u00bb.<\/p>\n\n\n\n

A pesar de ya utilizar una modalidad que logra entender el contexto del uso de las palabras, permitiendo concatenar mejor los textos, los programas anteriores no respond\u00edan tan bien al usuario o a\u00fan sonaban muy artificiales.<\/p>\n\n\n\n

ChatGPT aprendi\u00f3 a hablar de una manera m\u00e1s cercana a un humano<\/strong>.<\/p>\n\n\n\n

Machado Dias dice que lo que diferencia a este programa es el uso de una t\u00e9cnica que entiende c\u00f3mo funciona el lenguaje: el refuerzo del aprendizaje a trav\u00e9s de la retroalimentaci\u00f3n humana (RLHF).<\/p>\n\n\n\n

Los ingenieros aplican m\u00e9todos de \u00abrecompensa\u00bb y \u00abcastigo\u00bb para ense\u00f1ar al sistema las formas de interacci\u00f3n m\u00e1s deseables. Es un proceso de ajuste fino.<\/p>\n\n\n\n

\"Ingeniera<\/figure>\n\n\n\n

\u00abEn la pr\u00e1ctica, los ingenieros ordenan las respuestas dadas por el algoritmo seg\u00fan su relevancia y animan al programa a aprender las preferencias enumeradas en el ordenamiento para aumentar la relevancia de las producciones textuales. El resultado se da en forma de textos que parecen m\u00e1s profundos y m\u00e1s significativos que los de las alternativas\u00bb, dice el profesor de la Unifesp.<\/p>\n\n\n\n

ChatGPT tambi\u00e9n ha sido capacitado para admitir errores, desafiar suposiciones incorrectas y rechazar solicitudes inapropiadas.<\/p>\n\n\n\n

Pero un profesor de la Universidad de California logr\u00f3 que el sistema escribiera un c\u00f3digo de programaci\u00f3n para decir que solo los hombres blancos o asi\u00e1ticos son buenos cient\u00edficos.<\/p>\n\n\n\n

OpenAI afirma que, aunque se ha esforzado en este sentido, el programa \u00aba veces responder\u00e1 a instrucciones problem\u00e1ticas o exhibir\u00e1 un comportamiento sesgado\u00bb<\/strong>.<\/p>\n\n\n\n

Seg\u00fan la empresa, los datos recopilados en esta etapa de prueba servir\u00e1n para mejorar el sistema.<\/p>\n\n\n\n

\u00bfEs una amenaza para el aprendizaje y la creatividad?<\/h2>\n\n\n\n

La amenaza de cambios o alteraciones ya se cierne sobre el trabajo y el empleo. Los campos que dependen del texto, como el periodismo, podr\u00edan modificarse mucho y las vacantes podr\u00edan desaparecer para siempre.<\/p>\n\n\n\n

La competencia de ChatGPT en la generaci\u00f3n de c\u00f3digos tambi\u00e9n est\u00e1 planteando preguntas en un sector relativamente nuevo: la programaci\u00f3n.<\/p>\n\n\n\n

Pero una de las \u00e1reas que se ha ido dando cuenta de los posibles problemas de ChatGPT es precisamente una de las m\u00e1s afectadas por la llegada de las nuevas tecnolog\u00edas: la educaci\u00f3n.<\/p>\n\n\n\n

\"nin\u00f1os
Pie de foto,Hay expertos preocupados por c\u00f3mo la nueva tecnolog\u00eda puede incidir en la manera en que nuestro cerebro aprende.<\/figcaption><\/figure>\n\n\n\n

La tentaci\u00f3n entre los estudiantes de usar el programa para encontrar respuestas listas para sus tareas llev\u00f3 a Nueva York a tomar una decisi\u00f3n r\u00e1pida: solo un mes despu\u00e9s de su debut, el sistema fue prohibido en las escuelas y dispositivos p\u00fablicos de la ciudad estadounidense.<\/p>\n\n\n\n

OpenAI ha estado trabajando en una especie de marca para identificar que el contenido se origin\u00f3 en ChatGPT<\/strong>. Ya existen algoritmos que calculan con bastante precisi\u00f3n la probabilidad de que un chatbot haya realizado un texto.<\/p>\n\n\n\n

Adem\u00e1s de \u00abcopiar y pegar\u00bb, existe el miedo a los impactos estructurales en el aprendizaje humano. Por ejemplo, \u00bfse ver\u00e1 afectado el ejercicio cognitivo de escribir un ensayo con principio, medio y final, concatenando ideas de manera coherente?<\/p>\n\n\n\n

\u00abMe preocupa mucho la algoritmizaci\u00f3n del pensamiento, que es la alteraci\u00f3n de nuestra comprensi\u00f3n y relaci\u00f3n con el mundo debido a la interacci\u00f3n con la IA\u00bb, dice Machado Dias, de la Unifesp.<\/p>\n\n\n\n

\u00abCreo que este ser\u00e1 el cambio de mentalidad m\u00e1s grande en toda la historia moderna. Vale la pena se\u00f1alar que el cerebro humano se ha ido reduciendo de tama\u00f1o lentamente, como resultado del desarrollo tecnol\u00f3gico, durante m\u00e1s de mil a\u00f1os, desde el punto de vista t\u00e9cnico-cultural, pero tambi\u00e9n m\u00e1s limitado desde un punto de vista neurocognitivo\u00bb.<\/p>\n\n\n\n

Martha Gabriel, autora del libro \u00abInteligencia Artificial: del cero al metaverso\u00bb y docente de la Pontificia Universidad Cat\u00f3lica de Rio Grande do Sul, afirma que ser\u00e1 necesario adaptarse a los nuevos tiempos<\/strong>.<\/p>\n\n\n\n

\u00abLo que marca la diferencia en este contexto ya no son las respuestas, sino las preguntas. Hay que saber preguntar. Para saber preguntar hay que saber pensar cr\u00edticamente\u00bb, dice.<\/p>\n\n\n\n

Para Yuri Lima, investigador del Laboratorio del Futuro de la Universidad Federal de R\u00edo de Janeiro, \u00abla propia ense\u00f1anza necesita adaptarse para estimular un aprendizaje que reconozca a los estudiantes como cyborgs cada vez m\u00e1s integrados con las nuevas tecnolog\u00edas\u00bb.<\/p>\n\n\n\n

\"periodistas
Pie de foto,La capacidad de ChatGPT para generar textos con precisi\u00f3n podr\u00eda poner en riesgo carreras como el periodismo y con otras funciones creativas.<\/figcaption><\/figure>\n\n\n\n

\u00abEsto exige que los docentes tambi\u00e9n sepan utilizar estas mismas tecnolog\u00edas e integrarlas en sus actividades. Desde el momento en que los proyectos, actividades y tareas se vuelven m\u00e1s complejos e integrados al universo actual en el que viven los estudiantes, la motivaci\u00f3n deja de verse afectada por esta cuesti\u00f3n tecnol\u00f3gica\u00bb.<\/p>\n\n\n\n

Otro tema gira en torno al futuro de la creatividad humana y la producci\u00f3n de contenidos que no est\u00e9n basados \u200b\u200ben inteligencia artificial.<\/p>\n\n\n\n

Diez d\u00edas despu\u00e9s de la llegada del sistema OpenAI, un dise\u00f1ador de San Francisco (EE.UU.) logr\u00f3 crear en tan solo un fin de semana un libro infantil con texto e ilustraciones realizado con ChatGPT y MidJourney, un programa que produce im\u00e1genes proporcionando descripciones.<\/p>\n\n\n\n

\u00abUn punto importante a\u00fan por tratar es el tema del plagio. Dado que el entrenamiento de modelos como ChatGPT se basa en textos disponibles en internet como noticias, libros y blogs, sus respuestas pueden traer ideas publicadas por ciertas personas sin que reciban cr\u00e9dito por ello\u00bb, dice Lima.<\/p>\n\n\n\n

\u00abEn \u00e1reas creativas, este reconocimiento a los autores se considera importante. Adem\u00e1s, el desconocimiento de las fuentes dificulta reconocer sesgos o incluso mentiras, como en las noticias falsas\u00bb.<\/p>\n\n\n\n

Machado Dias se\u00f1ala que \u00abla creatividad surge de combinaciones que son a la vez inusuales y relevantes. Como los algoritmos son dispositivos para generar combinaciones, se espera que el impulso creativo se reduzca\u00bb.<\/p>\n\n\n\n

\u00abPor otro lado, a medida que los algoritmos realizan sus tareas, tienden a generar patrones que ni siquiera imaginamos posibles, expandiendo nuestra comprensi\u00f3n combinatoria, es decir, nuestra creatividad\u00bb.<\/p>\n\n\n\n

Martha Gabriel va en una l\u00ednea similar: \u00abLa tecnolog\u00eda puede ser una herramienta incre\u00edble para ampliar nuestro pensamiento, ya que podemos probar en poco tiempo innumerables hip\u00f3tesis, formatos, soluciones para refinar nuestras hip\u00f3tesis y mejorar nuestras preguntas\u00bb.<\/p>\n\n\n\n

\u00abSin embargo, esto tambi\u00e9n puede ser una amenaza muy grande para quienes usan estos sistemas a ciegas, sin cr\u00edticas ni cuestionamientos a la moral y la \u00e9tica. Esto no es solo un riesgo individual, sino para toda la humanidad\u00bb.<\/p>\n\n\n\n

Fuente: BBC Mundo<\/p>\n","protected":false},"excerpt":{"rendered":"

A fines de 2022, cuando el mundo entraba en el esp\u00edritu de fin de a\u00f1o y ten\u00eda los ojos centrados en la Copa del Mundo en Qatar, debut\u00f3 un programa que pronto se consider\u00f3 un paso adelante en el avance de la inteligencia artificial: ChatGPT. Este nuevo sistema puede generar contenidos escritos de forma altamente …<\/p>\n

Qu\u00e9 es ChatGPT, el revolucionario sistema de inteligencia artificial que preocupa a algunos expertos<\/span> Leer m\u00e1s \u00bb<\/a><\/p>\n","protected":false},"author":3,"featured_media":10486,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":""},"categories":[37],"tags":[],"class_list":["post-10485","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/revistaciudad.com.ar\/web\/wp-json\/wp\/v2\/posts\/10485","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/revistaciudad.com.ar\/web\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/revistaciudad.com.ar\/web\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/revistaciudad.com.ar\/web\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/revistaciudad.com.ar\/web\/wp-json\/wp\/v2\/comments?post=10485"}],"version-history":[{"count":0,"href":"https:\/\/revistaciudad.com.ar\/web\/wp-json\/wp\/v2\/posts\/10485\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/revistaciudad.com.ar\/web\/wp-json\/wp\/v2\/media\/10486"}],"wp:attachment":[{"href":"https:\/\/revistaciudad.com.ar\/web\/wp-json\/wp\/v2\/media?parent=10485"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/revistaciudad.com.ar\/web\/wp-json\/wp\/v2\/categories?post=10485"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/revistaciudad.com.ar\/web\/wp-json\/wp\/v2\/tags?post=10485"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}