Concejal Rosário, en a sesión municipal de Porto Alegre| Foto de Leonardo Lopes/CMPA, usada con autorización, editada por Global Voices

Después de la aprobación de una ley en el municipio de Porto Alegre, en el sureño estado brasileño de Río Grande do Sul, el concejal que la presentó decidió revelar que el texto se escribió con inteligencia artificial (IA) y que hasta incluyó sus sugerencias.

El proyecto exoneraba del pago por una nueva medición de uso de agua en caso de robo, y fue aprobada unánimemente por los concejales.

El concejal Ramiro Rosário reveló que su participación en concebir el texto fue enviar una directiva de 289 caracteres a ChatGPT. La herramienta generó una ley con ocho artículos y motivación, que estaba incompleta en el borrador inicial por límites de caracteres, algo que el concejal no detectó hasta que se lo advirtió la Sección de Redacción Legislativa de la Cámara, así que regresó a la plataforma de IA para tener asistencia adicional.

En entrevista con el diario Folha de S. Paulo, dijo:

É comum vereadores, para elaborarem leis nas suas cidades, buscarem como base uma lei parecida de outra cidade com a mesma finalidade e copiarem a redação. O ChatGPT faz a mesma coisa do jeito dele, recorrendo a um banco de dados de leis que já estão na internet. Considerando que estamos falando de dinheiro público, acho que a tecnologia tem muito a contribuir

Es común que los concejales, al redactar leyes en sus ciudades, busquen una ley similar de otra ciudad con el mismo objetivo como base y que copien la redacción. ChatGPT hace lo mismo a su manera, con una base de datos de leyes que ya están en internet. Como hablábamos de dinero público, creo que la tecnología tiene mucho para contribuir.

Al concejal le gustó una de las propuestas originales de IA: exonerar a los propietarios de pagar cuentas de agua en caso de robo hasta que se reemplace el dispositivo.

«Pensé que era una buena idea, y la dejé, aunque no es mía», dijo, según Matinal Jornalismo.

Rosário reveló haber usado IA después de que el alcalde aprobó la ley, según dijo, para crear debate sobre el tema. Aunque no hay obstáculos legales que impidan regulaciones escritas con IA en las leyes brasileñas, el presidente de concejales de la ciudad, Hamilton Sossmeier, dijo al medio G1 que lo consideraba un «precedente peligroso»:

Considero estranho. É a primeira vez que acontece, e não tem nenhuma lei que indique que eu não possa aprovar. Hoje, não tem nada que proíba. Mas, na minha ótica, é um precedente perigoso, complicado. Podem vir outras leis mais complexas, que gerem outros tipos de impacto. Por enquanto, fica minha preocupação pessoal.

Lo encuentro extraño. Es la primera vez que ocurre esto, y no hay leyes que indiquen que no puedo aprobarla. Hoy no hay nada que lo prohíba, pero desde mi perspectiva, es un precedente peligroso. Es complicado. Pueden seguir otras leyes más complejas, y generar otro tipo de impacto. Por ahora, es solo mi preocupación personal.

Posibles riesgos

ChatGPT fue creado por la empresa estadounidense de tecnología OpenAI, sobre la base de un modelo de lenguaje hecho público en 2022. Usa aprendizaje profundo para generar escritura con aspecto humano, y trabaja con un diseño de chatbot. Aunque la flexibilidad y las capacidades generativas de grandes modelos de idiomas pueden ayudar con prosa, poesía y programación, por ejemplo, también preocupa que se le dé mal uso.

ChatGPT también se ha usado para redactar leyes fuera de Brasil. A comienzos de 2023, un legislador de Massachusetts usó ChatGPT para escribir legislación para gobernar modelos de inteligencia artificial generativa “ChatGPT no dio el 70% de lo que necesitábamos  cuando queríamos redactar esta ley, pero no lo hizo todo”, dijo Barry Finegold, senador de Massachusetts y responsable de la idea.

ChatGPT genera oraciones basadas en este grupo de datos. Funciona con dos modelos: una versión pagada, con una base de datos actualizada en 2023, y una versión gratis, cuya base de datos comprende conocimiento hasta 2021. Además de plantear dudas sobre la propiedad y derechos de autor, mantener la objetividad y evitar sesgos en contextos políticos es algo que preocupa a los observadores.

Además, ChatGPT tiene un gran potencial para generar desinformación y «alucinar». Las alucinaciones ocurren cuando un modelo de IA crea contenido que se desvía de lo que se consideraría normal o esperado según los datos de capacitación que se le han dado.

Actualmente, el Congreso nacional de Brasil está analizando una ley que busca regular el uso de IA en el país. Se le deben adherir valores de transparencia, protección de la privacidad y defensa de valores democráticos, según la forma actual del texto.

En el Senado de Brasil, hay otra ley en discusión, que también busca regular el uso de inteligencia artificial y su implementación, y propone una evaluación de riesgos antes de que el servicio esté disponible en el país.