Redacción: Jacqueline Sandoval
ByteDance, la empresa matriz de TikTok, creó un equipo especializado en seguridad de inteligencia artificial (IA) y abrió una convocatoria internacional para contratar a 10 investigadores. La iniciativa busca mejorar la seguridad de sus modelos y prevenir posibles riesgos relacionados con el avance de esta tecnología.
El nuevo grupo forma parte de Seed, la unidad de investigación y desarrollo de inteligencia artificial de la compañía. Entre sus principales objetivos está lograr que los sistemas funcionen de manera más segura y respondan de forma adecuada a las instrucciones humanas, especialmente cuando realizan tareas complejas o tienen mayor autonomía.
La convocatoria contempla puestos para especialistas en distintas áreas de investigación. Las vacantes se encuentran en Pekín y Shanghái, en China, así como en San José, California, en Estados Unidos. Con esta búsqueda, ByteDance pretende reunir talento capaz de estudiar los desafíos que acompañan al desarrollo de modelos cada vez más avanzados.
Entre las tareas del equipo estarán evaluar el comportamiento de los sistemas, identificar vulnerabilidades y diseñar métodos para reducir los riesgos. También se trabajará en pruebas automatizadas que permitan detectar fallas antes de que los modelos se utilicen en diferentes aplicaciones.
Otro de los objetivos será estudiar cómo se comportan los agentes de inteligencia artificial, herramientas que pueden realizar varias acciones de manera autónoma para completar una tarea. Aunque estas capacidades ofrecen nuevas posibilidades, también plantean preguntas sobre el control de sus decisiones, el acceso a información y las consecuencias de sus acciones.
Además, la empresa buscará impulsar la colaboración con universidades y otras instituciones de investigación. Estas alianzas permitirían evaluar los modelos desde diferentes perspectivas y desarrollar métodos para identificar problemas durante las etapas de entrenamiento y evaluación.
La creación del equipo ocurre en un momento en el que las empresas tecnológicas compiten por desarrollar herramientas de inteligencia artificial más potentes. Al mismo tiempo, crece el interés por establecer medidas que ayuden a prevenir errores, usos indebidos y comportamientos inesperados.
Con esta iniciativa, ByteDance busca incorporar la seguridad como una parte central de su trabajo en inteligencia artificial. La contratación de nuevos especialistas permitirá fortalecer sus investigaciones en un campo que se ha vuelto cada vez más relevante para el sector tecnológico
42 Total Count
