Microsoft establece un nuevo estándar de seguridad y control humano para su Inteligencia Artificial
En un movimiento estratégico para garantizar la seguridad tecnológica, Microsoft ha presentado este lunes su nuevo código de conducta provisional para modelos de Inteligencia Artificial (IA). Este documento marca un compromiso firme de la compañía por mantener el desarrollo de estas herramientas bajo estricta supervisión humana, respondiendo así a las crecientes preocupaciones globales sobre la autonomía de los sistemas inteligentes.
El marco, titulado ‘Código de conducta para una IA humanista’, establece principios fundamentales donde la prioridad es el bienestar de las personas. Microsoft subraya que cualquier sistema que no pueda ser supervisado eficazmente por seres humanos debe ser descartado, asegurando que los modelos operen siempre al servicio de sus usuarios y no desarrollen objetivos independientes.
Las personas importan más que la IA. Cualquier sistema que no pueda estar bajo control humano debe ser rechazado.
Microsoft
Restricciones clave para un desarrollo ético
Dentro de este nuevo compendio de normas, la empresa tecnológica ha definido límites claros para prevenir usos indebidos. Entre las restricciones más destacadas se encuentran:
- Prohibición absoluta de colaborar en la fabricación de armas o facilitar el acceso a sustancias peligrosas.
- Prevención de la generación de contenidos violentos o sexualmente explícitos.
- Bloqueo de la promoción de conductas alimentarias perjudiciales para la salud.
- Evitar que los sistemas desarrollen metas propias o intenten ocultar errores de funcionamiento.
- Prevención de formas de comunicación incomprensibles para los seres humanos, garantizando la transparencia.
Este código se encuentra actualmente en una fase de consulta pública que durará seis semanas. Se espera que una versión final y actualizada sea publicada a finales de año, sirviendo como la hoja de ruta obligatoria para los modelos que la compañía desarrolle a partir de 2027.
Un contexto de debate global sobre la IA
La iniciativa de Microsoft surge en un momento de intensa discusión sobre los riesgos de la carrera tecnológica. Voces líderes en el sector han alertado recientemente sobre el peligro de acelerar el desarrollo hacia sistemas autónomos sin las salvaguardas adecuadas. Ante este panorama, el debate sobre si se debe ralentizar el progreso de la IA ha tomado fuerza.
Por su parte, el presidente estadounidense, Donald Trump, ha manifestado su postura a favor de mantener el liderazgo tecnológico de Estados Unidos frente a China, distanciándose de las peticiones que sugieren una pausa en la innovación. Con este nuevo código, Microsoft busca equilibrar el avance técnico con una estructura ética que priorice la seguridad del usuario y la responsabilidad operativa.
