Chatbots y watermarkers: una batalla ética y legal contra la falsificación

El chatbotsse han vuelto cada vez más populares y pronto pueden adoptar watermaks, para responder a las cuestiones éticas y jurídicas que suscita su uso, en relación con la propiedad intelectual.

Aquí están los problemas derivados del uso de los chatbots en el ámbito académico, mientras se estrenan herramientas para detectar si un texto u otro contenido es fruto de su uso. pero en el futuroincluso la criptografía y la cadena de bloques podrían luchar contra la falsificación.


La creciente proliferación de herramientas de inteligencia artificial (IA) diseñadas específicamente para generar texto similar al humano ha provocado unaverdadera guerra de chatbots en Silicon Valley. Son populares debido a su capacidad para automatizar conversaciones y mejorar la eficiencia de los procesos. El chatbot de IA más utilizado es Chat GPT. Creado por la start-upabrir Ai. ya se jactamás de 100 millones de usuarios activos en enero, tan solo dos meses después de su lanzamiento.

Pero basta teclear "uso de chatbots" en Google para darse cuenta de la cantidad de empresas que los patrocinan y facilitan su uso para mejorar la productividad de las empresas.

Los chatbots o proyectos similares de gigantes de la industria tecnológica son abundantes. Google publicó en enero un artículo que describe un modelo que puede generar nueva música a partir de una descripción textual de una canción. Mientras tanto está trabajando en la creación de un anti ChatGPT llamadoaprendiz de bardo.

Baidu, el gigante chino de las búsquedas, pretende incorporar unachatbotsen su buscador en marzo.Réplicaes un chatbot que se presenta con el eslogan "el compañero que se preocupa por ti": fue, correctamente, tachado de comentarios de los Garante de privacidad. Pero incluso este caso demuestra cuánta atención se presta a los chatbots.


Desde el debut de ChatGPT en noviembre,los estudiantes comenzaron a hacer trampa usándolo para escribir sus ensayos. El sitio de noticias Cnet también usó ChatGPT para escribir artículos, solo para verse obligado a hacer correcciones más adelante.acusaciones de plagio.

Muchos estudiantes han utilizado los chatbots como herramienta de apoyo al estudio, especialmente para aprender conceptos difíciles o resolver tareas complejas. Sin embargo, eso levantala cuestión ética del uso de chatbots.

Si los estudiantes usan chatbots para hacer sus tareas, uno se preguntasi siguen siendo el resultado de su trabajo. O uno se pregunta si los estudiantes que usan chatbots dibujan unventaja injusta sobre sus compañeros de clase que no los usan.

Los maestros, en particular, están tratando de adaptarse adisponibilidad de software que puede producir un ensayo moderadamente aceptable sobre cualquier tema en un instante. Quizás volvamos aevaluaciones con lápiz y papel. O aumentará lasupervisiónde los examenes También hay quienes proponenprohibir el uso de la inteligencia artificial por completo.

Este tema es particularmente relevante en la academia, donde los estudiantes son evaluados sobre la base de sus conocimientos y habilidades. El uso de chatbots puede representar unaamenaza a la integridad académica.


El uso de chatbots podría considerarse unoforma de plagio. De hecho, los estudiantes usan respuestas generadas automáticamente para responder tareas que requieren su conocimiento personal.

Otro problema relacionado con el uso de chatbots está relacionado conpropiedad intelectual. Los chatbots pueden generar respuestas o soluciones a problemas. Pero, ¿quién posee la propiedad intelectual de esas respuestas? Los estudiantes que usan chatbots podrían ser acusados deviolar los derechos de propiedad intelectual de los dueños del chatbot.

Mientras tanto, los propietarios de chatbots están recibiendo acusaciones de infracción de propiedad intelectual de aquellos cuyostextos, documentos, fotos u otros, se utilizan precisamente para "alimentar" los algoritmos del chatbot.


A mediados de enero el sitio de imágenes Getty anunció el inicio de la demanda contra Stability AI: “Esta semana Getty Images inició procedimientos judiciales en el Tribunal Superior de Justicia de Londres.contra la IA de estabilidad, alegando que este último violó los derechos de propiedad intelectual, incluidos los derechos de autor del contenido propiedad de Getty Images (o de aquellos a los que representa).

Getty Images cree que Stability AI ha copiado y procesado ilegalmente millones de imágenes con derechos de autor y metadatos relacionados propiedad de Getty Images, sin licencia,en beneficio de los intereses comerciales de Stability AI y en detrimento de los creadores de contenido.

Pero la inteligencia artificial tiene el potencial de estimular los esfuerzos creativos.. Importantemente,Getty Images ha otorgado licencias a innovadores líderes en tecnología para fines de capacitación en sistemas de inteligencia artificial.así que rinspeccionar los derechos de propiedad intelectual y personal. Stability AI no ha buscado ninguna licencia de este tipo de Getty Images y, en su lugar, ha optado, en nuestra opinión, por ignorar las opciones de licencia viables y las protecciones legales de larga data para perseguir sus intereses comerciales independientes". También en este caso se subraya el enorme potencial de la inteligencia artificial, pero también el necesario respeto a las barreras establecidas por la ley.


Para evitar estos problemas, algunas instituciones académicas hanprohibido el uso de chatbots por parte de los estudiantes. Sin embargo, no siempre es práctico o efectivo, ya que los chatbots se han vuelto cada vez más sofisticados y difíciles de detectar.

Con la llegada de la inteligencia artificial, tanto los detectores de texto como los generadores de texto se están volviendo cada vez más refinados. Esto podría tener un impacto significativo en la efectividad de los diferentes métodos y herramientas propuestos para reconocer el texto generado por IA.

Los profesores e investigadores también pueden usar chatbots para automatizar sus procesos de investigación y enseñanza..

La paradoja es que las empresas globales especializadas en inteligencia artificialno pueden distinguir de manera confiable los productos de sus propias máquinas del trabajo de los humanos.

La razón es muy sencilla. El principal objetivo de las empresas de IA esentrenar "procesadores de lenguaje natural" (NLP) de IA para producir resultados lo más parecidos posible a la escritura humana. De hecho, la demanda pública de un medio fácil de detectar tales IA en realidad contradice sus propios esfuerzos en la dirección opuesta.


El uso de watermarks puede ser una solución eficaz para gestionar el uso de chatbots. Para simplificar, las watermarks son marcadores digitales que se incrustan en una imagen o documento para identificar al propietario o autor de la obra.

En este caso, se pueden utilizar watermarks para identificar las respuestas o soluciones generadas por los chatbots.

Estos Las “watermarks” son invisibles para el ojo humano, pero permiten que las computadoras detecten que el texto probablemente proviene de un sistema de inteligencia artificial.

Cuando se incorporan a modelos de lenguaje grandes, podrían ayudar a prevenir algunos de los problemas ya causados.

De hecho, la watermarks es una técnica de seguridad que protege la propiedad intelectual., especialmente documentos digitales,del uso no autorizado y la falsificaciónY. Esta técnica consiste en insertar unimagen, texto u otro tipo de watermarks dentro del documento, lo que lo hace único efácilmente rastreable.

En algunos estudios ya se han utilizado estas watermarks para identificar, con casi absoluta certeza, el texto generado por la inteligencia artificial. Los investigadores de laUniversidad de Maryland,por ejemplo, lograron localizar eltexto creado por el modelo de lenguaje de código abierto de Meta, OPT-6.7B, usando un algoritmo de detección que construyeron. Aunque uno de los investigadores de la Universidad de Maryland que participó en el trabajo de la watermark, John Kirchenbauer, dijo que “ahora mismo es el salvaje oeste“, capturando perfectamente la situación actual.


Son las herramientas mediante las cuales los programadores "enseñan" a la computadora a hacer algo con datos ya etiquetados por humanos, es decir, clasificar (en nuestro caso) el uso de ciertas palabras en lugar de otras, o combinaciones de palabras elaboradas por un chatbot.

OpenAi en sí tiene introducido en enero un "clasificador para indicar textos escritos por IA" admitiendo, sin embargo, que tiene una tasa de éxito de no más del 26% del texto analizado.

Otro clasificador que parece más efectivo es el creado poreduardo tian, un estudiante de Princetown, que lanzó la primera versión en enero deGPTZero.

Esta aplicación identifica elautoría de la inteligencia artificialbasado en dos factores:el grado de complejidad de un texto y la variabilidad de las oraciones utilizadas.

Para mostrar cómo funciona el programa, Tian publicó dos videos en Twitter comparando el análisis de un artículo del New Yorker y una carta escrita por ChatGPT.

En ambos casos, la aplicación pudo identificar correctamente su origen humano y artificial.

El "truco" actual para derrotar a los clasificadores es reemplazar algunas palabras con sinónimos. Los sitios web que ofrecen herramientas que parafrasean el texto generado por IA para este propósito ya están apareciendo en todo el mundo.

Usando es sitios web incluso el clasificador de Tian no superó los porcentajes del otro servicio.

Los detectores de texto generados por IA serán cada vez más sofisticados. El servicio antiplagio TurnItIn anunció recientemente la llegada de un Detector de escritura a mano AI con una precisión declarada del 97%.

Sin embargo, los generadores de texto también están mejorando. Está alláLa clásica batalla en la que no ves un ganador, pero sólo dos contendientes que se adelantan continuamente sin ver línea de meta y, por tanto, de momento, un ganador.


Como suele suceder en el sector digital, llegaremos a un punto en el que la costumbre y la práctica llevarán al legislador a poder regular también este sector de manera armónica.

Cuando, además de la ley, los problemas también conciernen a la ética, es difícil que todos estén de acuerdo. En el campo académico, no podrás hacer felices a todos.

Pero, en lo que se refiere a la propiedad intelectual relacionada con estos temas, la práctica dará lugar a pronunciamientos jurisprudenciales en constante evolución, capaces de nutrirse tanto del derecho como de la tecnología sobre la materia.

En cambio, será aún más difícil para las empresas proteger su propiedad intelectual, ya que los falsificadores podrían usar generadores de texto avanzados para crear documentos que parecen auténticos, pero que en realidad son el resultado de una falsificación.

Será necesario un cambio en el enfoque de la protección de la propiedad intelectual, con la adopción de técnicas de seguridad más avanzadas, comocriptografía o blockchain.


Artículo publicado originalmente en AgendaDigitale y escrito junto con el abogado Niccolò Lasorsa Borgomaneri, bufete de abogados Marsaglia.