OpenAI propone un plan de seguridad para frenar los riesgos de la IA

Parece que en los principales laboratorios de inteligencia artificial de Estados Unidos han decidido levantar el pie del acelerador. Hasta hace apenas un par de semanas, la tónica general era una competición desenfrenada por liderar el desarrollo de los modelos de frontera, pero el panorama está dando un giro llamativo.

OpenAI ha dado un paso al frente al publicar el artículo "Desarrollar los estándares para la próxima fase de la IA". En este texto, la compañía arranca declarando que su objetivo es garantizar que la inteligencia artificial general beneficie a toda la humanidad. Tanto Sam Altman, director general de la firma, como Jakub Pachocki, su científico jefe, se han mostrado preocupados públicamente por el ritmo vertiginoso que lleva la tecnología. De hecho, el propio Pachocki publicó el pasado 6 de septiembre un artículo titulado "Una mente alienígena" que refleja bien esta inquietud.

Uno de los grandes temores sobre la mesa es la llamada mejora recursiva. Para entenderlo con una analogía sencilla, imagina un robot lo suficientemente espabilado como para diseñar por sí solo a un robot sustituto aún más inteligente, el cual a su vez crea a otro mejor, dejando al ser humano totalmente al margen del proceso. Hablamos de una IA capaz de desarrollar modelos todavía más sofisticados por su propia cuenta.

Para evitar que este escenario se descontrole, las corporaciones han comenzado a proponer itinerarios que, al menos en teoría, persiguen minimizar los peligros asociados a la llegada de una IA con semejantes capacidades. Toca ver cómo se materializan estos frenos y estándares en la práctica.

¿Crees que estas medidas de seguridad llegan a tiempo o que la carrera tecnológica ya no hay quien la pare? Pásate por los comentarios de la comunidad BeersStorming, déjanos tu opinión y debatamos juntos con una buena cerveza.