top of page

Garantizar el cumplimiento normativo en la salida de los modelos de IA: Un nuevo desafío para ingenieros

Actualizado: 28 mar



En el proceso de transformación de un prototipo tecnológico en un producto comercial viable, los ingenieros se enfrentan a un espectro de desafíos que trascienden el dominio técnico. La emergencia de tecnologías disruptivas como la inteligencia artificial (IA) y los Modelos de Lenguaje Grande (LLMs por sus siglas en inglés) ha puesto de manifiesto la complejidad de garantizar la fiabilidad, la seguridad, la privacidad y el cumplimiento normativo de los productos tecnológicos.


En este contexto, surge una pregunta fundamental: ¿deberían los ingenieros aprender sobre leyes de privacidad, ciberseguridad o cumplimiento normativo?

 

Un Cambio de Paradigma en la Interacción con IA


Recientes investigaciones indican un cambio de paradigma en la interacción con tecnologías basadas en IA. Según estudios realizados por Rick Battle y Teja Gollapudi de VMWare, la optimización de la ingeniería de prompts —instrucciones específicas dadas a los LLMs— podría ser más efectivamente realizada por los propios modelos, en lugar de ingenieros humanos. Este hallazgo cuestiona el futuro de la ingeniería de prompts tal y como la conocemos y sugiere que la especialización en este ámbito podría no tener la función que se le presupuestaba inicialmente.

 

Battle y Gollapudi decidieron probar sistemáticamente cómo diferentes estrategias de ingeniería de prompts impactan la capacidad de un LLM para resolver preguntas de matemáticas de escuela primaria. Probaron tres diferentes modelos de lenguaje de código abierto con 60 combinaciones de prompts diferentes cada uno. Lo que encontraron fue una sorprendente falta de consistencia.

 

El Reto de la Optimización de Prompts


A la luz de los resultados de su equipo, Battle dice que ningún humano debería optimizar manualmente los prompts nunca más. El método de prueba y error actual, puede ser sustituido por una mejora en el propio modelo.

 

Pero el trabajo de Battle y Gollapudi va más allá y destaca que el verdadero reto de la creación del prompt es adaptar la salida del modelo al formato apropiado garantizando la seguridad y la privacidad, y el cumplimiento normativo. Este reto evidencia así la necesidad de una comprensión legal en el desarrollo tecnológico, ya que los métodos tradicionales de evaluación de software no están adaptados para los impredecibles LLMs.




 

La respuesta de EDJ XTech Law School


Ante esta realidad, la propuesta de EDJ XTech Law School cobra especial relevancia. Nuestra plataforma educativa está diseñada para cerrar la brecha entre el derecho y la tecnología, ofreciendo formación integral tanto en aspectos legales como tecnológicos. Al enseñar las bases tecnológicas a los juristas y las fundamentos de la normativa y el cumplimiento a los ingenieros, EDJ XTech Law School busca crear un lenguaje común que facilite la colaboración efectiva entre estos dos mundos tradicionalmente separados.

 

La integración del conocimiento legal en la formación de ingenieros no solo es necesaria para la superación de los desafíos técnicos, sino también para garantizar que la innovación se desarrolle dentro de un marco ético y legalmente sólido. Esta comprensión mutua entre ingenieros y juristas es crucial para anticipar y abordar los retos jurídicos que emergen con la evolución tecnológica, especialmente en un entorno donde la privacidad y la seguridad de los datos se han convertido en preocupaciones centrales de la sociedad.

 

31 visualizaciones0 comentarios

Commenti


bottom of page