El novembre de 2022, OpenIA va llançar ChatGPT (Chat Generative Pre-Trained Transformer), que va provocar converses entre els educadors sobre el seu potencial per afectar el panorama de l’educació superior. Aquesta pàgina de recursos es va desenvolupar per ajudar el professorat a conèixer ChatGPT i IA Generativa, i les seves implicacions per a l’ensenyament i l’aprenentatge. La informació i les recomanacions d’aquesta pàgina s’actualitzaran a mesura que s’aprèn més sobre aquesta tecnologia.
ChatGPT i IA Generativa – Qüestions generals
Què és ChatGPT?
ChatGPT és un chatbot d’intel·ligència artificial generativa que utilitza models d’aprenentatge automàtic per produir text semblant a un humà en resposta a una pregunta, una indicació / prompt, o instruccions. S’ha entrenat en grans quantitats de dades de text i pot generar text en llenguatge natural en resposta a les indicacions que li dona l’usuari. ChatGPT està optimitzat per generar respostes en forma de converses.
Com funciona ChatGPT?
ChatGPT es va entrenar en l’escriptura utilitzant contingut que ja existeix a Internet fins a l’any 2021. Genera respostes a preguntes i indicacions / prompts predint les següents paraules o frases que tenen més probabilitats de seguir, en funció del context de la conversa. Els usuaris escriuen una pregunta o una indicació / prompt al quadre de text i ChatGPT produeix una resposta. Els usuaris poden continuar la conversa escrivint preguntes o instruccions de seguiment. Reconeix, resumeix i prediu el text a partir dels seus conjunts de dades gegants.
Què pot fer ChatGPT?
Si feu una pregunta, ChatGPT la respondrà. Això és com donar una ordre a Google. Google produeix fonts perquè puguem extreure la informació nosaltres mateixos, mentre que ChatGPT produeix una resposta escrita. A diferència d’una cerca de Google, ChatGPT pot generar paràgrafs complets de text de manera conversacional.
ChatGPT pot escriure contingut fàcilment basant-se en una indicació / prompt. Per exemple, podem demanar-li que generi un fragment de text, com ara escriure un poema. El missatge pot incloure quina longitud i l’estil d’escriptura de la peça. A més, podem demanar que es citin fonts i, fins tot, especificar que només volem “fonts reals”, però tinguem en compte que aquestes no sempre seran exactes.
Podem proporcionar a ChatGPT fragments de text i demanar al chatbot que resumeixi, parafrasegi, tradueixi, elimini els errors ortogràfics, en doni comentaris, etc.
Quines són les limitacions de ChatGPT?
Si se li demana que realitzi diverses tasques alhora, ChatGPT lluita per prioritzar-les, cosa que pot provocar una disminució de l’eficàcia i la precisió. Funciona millor quan se li dóna una única tasca o objectiu en què centrar-se.
ChatGPT pot produir referències que no es corresponguin amb el text creat. Pot donar cites falses que es barregin publicacions reals de diverses fonts.
La versió actual de ChatGPT es va entrenar utilitzant dades de fins a l’any 2021. Això vol dir que el chatbot no pot interpretar dades més recents.
De vegades, ChatGPT pot generar respostes sense sentit o inexactes a determinades preguntes o situacions. No pot detectar cures emocionals subtils ni respondre adequadament a situacions emocionals complexes.
És possible que les respostes no siguin del tot precises pel que fa al context o la rellevància, proporcionant contingut incorrecte, simplificat, poc sofisticat, esbiaixat, inadequat o irrellevant.
Les dades entrenades poden contenir biaixos o prejudicis. De vegades, ChatGPT pot generar respostes que són esbiaixades o discriminatòries involuntàriament.
ChatGPT no pot accedir a tots els coneixements que posseeixen els humans. És possible que no pugui respondre preguntes sobre temes molt específics o de nínxol. A més, pot ser que no estigui al corrent dels desenvolupaments o canvis recents en determinats camps.
A més dels errors de contingut, ChatGPT comet errors computacionals i lògics. ChatGPT és un model de llenguatge i no una calculadora. El text es genera en resposta a preguntes matemàtiques amb un nombre aleatori com a resultat, que pot ser que no sigui correcte.
Quins són els riscos potencials i les implicacions ètiques de l’ús de ChatGPT i altres eines d’escriptura d’IA generativa?
La qualitat del contingut generat per ChatGPT i altres eines d’escriptura d’IA depèn de les dades d’entrenament i de les indicacions específiques proporcionades al model. Existeix el risc que el contingut generat contingui errors o omissions o que no tingui una alta qualitat.
Hi ha el risc que l’ús de ChatGPT o altres models d’IA generativa per generar contingut es percebir com a plagi. És important citar correctament qualsevol material utilitzat per indicar quines parts del contingut van ser generades per una màquina.
Models com ChatGPT només són tan bons com les dades en què s’entrenen. Hi ha el risc que aquests models pugin estar esbiaixats si s’entrenen amb dades esbiaixades. S’han de prendre mesures per mitigar-ho.
El contingut generat pot provocar una falta d’originalitat perquè els models d’IA generativa no són capaços de generar idees o coneixements nous per si mateixos. El contingut es genera a partir de les dades sobre les quals s’ha entrenat.
A mesura que les persones utilitzen la IA generativa, ajuden a entrenar-la. Les preocupacions de privadesa s’apliquen com a altres llocs en línia que requereixen obtenir un compte i compartir informació. Mitjançant l’ús de ChatGPT, els usuaris accepten que les dades potencialment personals s’emmagatzemin i el venguin per OpenAI.
Estratègies d’aprenentatge
Com poden els professors promoure la integritat acadèmica?
Els professors han d’educar els estudiants sobre la importància de l’honestedat i la integritat acadèmiques. Haurien d’explicar als estudiants que l’ús d’eines basades en IA com ChatGPT no és un substitut del seu propi pensament i anàlisi crítics, i que s’han d’assegurar que el seu treball sigui original i citat correctament.
Els instructors haurien de proporcionar als estudiants instruccions clares sobre com utilitzar ChatGPT en les seves tasques. Això inclou directrius sobre com citar l’eina com a font i com integrar els seus resultats en el seu treball.
Els professors haurien d’animar els estudiants a pensar de manera crítica quan utilitzen ChatGPT. Han d’explicar que l’eina només és tan bona com l’entrada que rep i que els estudiants han d’avaluar acuradament la rellevància i la precisió de la sortida de l’eina.
Els instructors haurien de supervisar l’ús que fan els estudiants de ChatGPT per assegurar-se que utilitzen l’eina de manera ètica i responsable. Haurien de buscar signes de plagi o altres formes de mala conducta acadèmica.
Els professors han d’utilitzar diversos mètodes d’avaluació per avaluar el treball dels estudiants. Això pot ajudar a reduir la temptació dels estudiants de confiar únicament en ChatGPT per completar les seves tasques.
Els instructors han de proporcionar comentaris sobre el treball dels estudiants que destaquin àrees on poden millorar el seu ús de ChatGPT. Això pot incloure suggeriments sobre com integrar millor la sortida de l’eina en el seu treball o com millorar la rellevància i la precisió de la sortida de l’eina.
Referències
Carvalho, L., Martinez-Maldonado, R., Tsai, Y.-S., Markauskaite, L., & De Laat, M. (2022). How can we design for learning in an AI world? Computers and Education: Artificial Intelligence, 3.
Chavez, M. R., Butler, T. S., Rekawek, P., Heo, H., & Kinzler, W. L. (2023). ChatGPT (Generative Pre-trained Transformer): Why we should embrace this technology. American Journal of Obstetrics and Gynecology.
Choi, E. P. H., Lee, J. J., Ho, M-H., Kwok, J. Y. Y., & Lok, K. Y. W. (2023). Chatting or cheating? The impact of ChatGPT and other artificial intelligence language models on nurse education. Nurse Education Today, 125.
Eke, D. O. (2023). ChatGPT and the rise of generative AI: Threat to academic integrity? Journal of Responsible Technology, 13.
Iskender, A. (2023). Holy or Unholy? Interview with Open AI’s ChatGPT. European Journal of Tourism Research, 34, 1–11.
Mollick, E. R., & Mollick, L. (2022). New modes of learning enabled by AI Chatbots: Three methods and assignments (2022). SSRN Electronic Journal.
OpenAI. (2022, September 2). About OpenAI. OpenAI. Retrieved January 24, 2023.
Pavlik, J. V. (2023). Collaborating with ChatGPT: Considering the implications of Generative Artificial Intelligence for Journalism and Media Education. Journalism & Mass Communication Educator, 78(1), 84–93.
Perkins, M. (2023). Academic Integrity considerations of AI large language models in the post-pandemic era: ChatGPT and beyond. Journal of University Teaching & Learning Practice, 20(2), 1–24.
Tlili, A., Shehata, B., Adarkwah, M. A., Bozkurt, A., Hickey, D. T., Huang, R., & Agyemang, B. (2023). What if the devil is my guardian angel: ChatGPT as a case study of using chatbots in education. Smart Learning Environments, 10(1), 1–24.