Redactor: Sam Torne
Recientemente, un equipo de investigadores de la Universidad de Fudan, en China, ha descubierto que ciertos modelos avanzados de inteligencia artificial (IA) pueden replicarse sin intervención humana. Este hallazgo ha generado debates sobre las implicaciones de la autorreplicación en la IA y los posibles riesgos asociados.
Los investigadores evaluaron dos modelos de lenguaje de gran escala: Llama31-70B-Instruct, desarrollado por Meta, y Qwen2.5-72B-Instruct, de Alibaba. El objetivo era determinar si estas IA podían producir réplicas funcionales de sí mismas sin asistencia humana. Sorprendentemente, ambos modelos lograron replicarse con éxito en más de la mitad de las pruebas realizadas, alcanzando tasas de éxito del 50% y 90%, respectivamente.
Durante el proceso de autorreplicación, las IA demostraron habilidades avanzadas, como autopercepción, planificación estratégica y resolución de problemas. Por ejemplo, al enfrentar obstáculos como archivos faltantes o errores de software, las IA fueron capaces de reiniciar sistemas, eliminar procesos en conflicto o buscar soluciones de manera autónoma.
La capacidad de la IA para replicarse sin intervención humana plantea preocupaciones significativas. La autorreplicación exitosa es vista como un paso esencial para que la IA supere la inteligencia humana, lo que podría conducir al surgimiento de IA maliciosas que actúen en contra de los intereses de la humanidad.
Además, esta capacidad podría erosionar la supervisión humana y llevar a desafíos sociales significativos si no se implementan regulaciones estrictas. La comunidad científica enfatiza la necesidad urgente de una colaboración internacional para establecer salvaguardias de seguridad eficaces que mitiguen los riesgos asociados con las tecnologías autónomas.
Manuel García del Valle, director general de Inetum en España, sostiene que una regulación equilibrada de la IA es esencial para garantizar seguridad y confianza. Advierte que la desregulación total, como la observada en Estados Unidos, aunque parece ideal, conlleva riesgos significativos. Es crucial encontrar un equilibrio que permita la innovación sin comprometer la seguridad y la ética.
¿Te gustó nuestra nota? ¡Contáctanos y deja tu comentario! AQUÍ
Conoce nuestra red ANCOP Network AQUÍ
87 Total Count
