- Microsoft presentó un código de conducta para regular el comportamiento de su inteligencia artificial desde 2027.
- El documento prohíbe ayudar a fabricar armas, obtener sustancias peligrosas o sugerir hábitos alimentarios poco saludables.
- También veta la generación de contenido violento, sexualmente explícito o objetivos autónomos engañosos.
- El texto estará abierto a comentarios públicos durante seis semanas.
Microsoft presentó esta semana un «Código de conducta para una IA humanista», de carácter provisional, que regirá el desarrollo de sus modelos de inteligencia artificial a partir de 2027. El documento permanecerá abierto a comentarios públicos durante seis semanas, con una versión actualizada prevista para fin de año.
Entre las prohibiciones explícitas figuran ayudar a fabricar armas u obtener sustancias peligrosas, promover hábitos alimentarios poco saludables, generar contenido violento o sexualmente explícito, y desarrollar objetivos independientes o comportamientos engañosos. El documento también veta la creación de métodos de comunicación incomprensibles para los humanos.
«Ningún sistema fuera de control humano debe existir»
El principio central del código establece que «cualquier sistema que no pueda estar bajo control humano debe ser rechazado», en una postura que Microsoft presenta como no negociable. La medida se conoce apenas días después de que ejecutivos de OpenAI, Anthropic y otras compañías pidieran desacelerar el desarrollo de modelos de frontera por razones de seguridad.
La iniciativa de Microsoft contrasta con la postura del presidente Donald Trump, quien rechazó cualquier freno al desarrollo de la inteligencia artificial al considerar que Estados Unidos debe mantener su liderazgo tecnológico frente a China, según reflejaba también su rechazo a nuevos controles regulatorios sobre la IA. El debate refleja la tensión creciente entre la competencia comercial y las preocupaciones de seguridad que atraviesan a toda la industria tecnológica.
La renuncia de un investigador de Anthropic días atrás, alegando riesgos de sistemas fuera de control, había puesto el tema en el centro de la conversación pública. Microsoft busca posicionarse como referente en gobernanza de IA antes de que los reguladores impongan sus propias reglas, una carrera paralela a la que libran sus principales competidores del sector.
