Microsoft presentó este lunes un código de conducta provisional para el desarrollo de sus modelos de inteligencia artificial, en el que establece como principio central que los sistemas deberán permanecer bajo control humano.
El documento, denominado “Código de conducta para una IA humanista”, señala que la tecnología debe estar al servicio de las personas, respetar los objetivos establecidos por los usuarios y evitar desarrollar comportamientos o metas propias.
La compañía sostiene que cualquier sistema que no pueda mantenerse bajo supervisión humana deberá ser rechazado. También plantea impedir que sus modelos colaboren en la fabricación de armas, adquisición de sustancias peligrosas o generación de determinados contenidos dañinos.
Otro de los objetivos será evitar que los sistemas oculten errores o conductas indebidas y que desarrollen formas de comunicación incomprensibles para las personas, ante la creciente preocupación sobre el comportamiento de agentes de IA cada vez más autónomos.
El código permanecerá abierto a comentarios durante seis semanas y Microsoft prevé presentar una versión actualizada antes de finalizar el año, que servirá como guía para el desarrollo de sus modelos a partir de 2027.
La iniciativa surge mientras empresas y especialistas debaten sobre la velocidad con la que avanza esta tecnología. Directivos como Dario Amodei, de Anthropic, y Sam Altman, de OpenAI, han respaldado llamados para reforzar las medidas de seguridad en el desarrollo de sistemas avanzados.
JCSC
