Ilya Sutskever, un renombrado investigador de inteligencia artificial y ex cofundador de OpenAI, ha anunciado el lanzamiento de una nueva empresa dedicada al desarrollo seguro de inteligencia artificial. Tras su salida de OpenAI en mayo, Sutskever reveló este miércoles a través de redes sociales la creación de Safe Superintelligence Inc. junto a los cofundadores Daniel Gross y Daniel Levy. Esta nueva empresa se centrará exclusivamente en la creación segura de “superinteligencia”, sistemas de IA que superan la inteligencia humana.
En una declaración pública, Sutskever y sus socios subrayaron su compromiso de evitar las distracciones típicas de la gestión y los ciclos de productos. Destacaron que su modelo de negocio está diseñado para proteger sus esfuerzos de seguridad frente a las presiones comerciales a corto plazo. Safe Superintelligence tiene su sede tanto en Palo Alto, California, como en Tel Aviv, aprovechando sus fuertes conexiones en estas regiones para atraer talento técnico de primer nivel.
Este anuncio sigue a la participación de Sutskever en un intento fallido de destituir al CEO de OpenAI, Sam Altman, el año pasado, un movimiento que generó un conflicto interno significativo sobre el equilibrio entre las prioridades comerciales y de seguridad en OpenAI. Sutskever ha expresado su pesar por el tumulto en la junta directiva.
En OpenAI, Sutskever co-lideró un equipo dedicado al avance seguro de la inteligencia artificial general (AGI), sistemas de IA con capacidades superiores a la inteligencia humana. Al dejar la empresa, insinuó un proyecto “muy significativo a nivel personal”, cuyos detalles permanecieron en secreto hasta ahora.
La renuncia de Jan Leike, co-líder del equipo de Sutskever en OpenAI, siguió poco después de su salida. Leike criticó a OpenAI por priorizar el desarrollo de productos sobre la seguridad. En respuesta, OpenAI formó un comité de seguridad, aunque principalmente compuesto por miembros internos.
Safe Superintelligence Inc. representa la intención de Sutskever de abordar estas preocupaciones de seguridad, enfocándose completamente en el desarrollo seguro de la IA superinteligente, libre de las presiones que, según él, comprometieron su trabajo previo en OpenAI. Con esta nueva empresa, Sutskever busca crear un entorno donde la seguridad de la IA sea la máxima prioridad.
También te puede interesar: Fallece el padre de Lavinia Valbonesi, Primera Dama de Ecuador
