LawZero: Yoshua Bengio aboga por una IA "segura por diseño"
Yoshua Bengio lanza LawZero, una organización sin fines de lucro para promover una IA "segura por diseño", enfocándose en minimizar riesgos y maximiza...
Yoshua Bengio es una figura emblemática en el campo de la inteligencia artificial (IA), reconocido mundialmente por sus contribuciones pioneras en el desarrollo del aprendizaje profundo. Galardonado con el prestigioso premio A.M. Turing en 2018, considerado el "Nobel de la informática", a menudo se le designa como uno de los "padres fundadores" del deep learning, junto a Geoffrey Hinton y Yann LeCun. Es profesor en la Universidad de Montreal y el fundador del Mila, el Instituto quebequense de inteligencia artificial, que se ha convertido en un centro neurálgico de la investigación en IA.
Yoshua Bengio es principalmente conocido por sus trabajos sobre las redes neuronales y el aprendizaje profundo, que han revolucionado campos como la visión por computadora, el reconocimiento de voz y el procesamiento del lenguaje natural. Sus investigaciones han permitido superar desafíos técnicos importantes, conduciendo a avances significativos en el diseño de algoritmos de aprendizaje automático. Su experiencia también se extiende a la modelización probabilística y a la ciencia de datos, con una fuerte orientación hacia la mejora de los modelos de IA para que sean más eficientes y seguros.
Recientemente, Yoshua Bengio ha lanzado LawZero, una organización de investigación sin fines de lucro dedicada a la seguridad de la IA. Esta iniciativa busca promover un enfoque "seguro por diseño" para el desarrollo de los sistemas de IA, buscando minimizar los riesgos y maximizar los beneficios para la humanidad. LawZero propone un enfoque radicalmente diferente de la inteligencia artificial, centrado en una IA científica desprovista de memoria persistente e intencionalidad propia, diseñada para informar en lugar de actuar.
En colaboración con socios como el Future of Life Institute y la Silicon Valley Community Foundation, LawZero cuenta con un apoyo financiero de aproximadamente 30 millones de dólares. La organización trabaja en estrecha colaboración con el Mila para desarrollar soluciones destinadas a reducir los comportamientos no anticipados de las IA agenticas.
Yoshua Bengio es una voz influyente en el debate sobre la ética y la regulación de la IA. Además de sus contribuciones académicas, ha desempeñado un papel activo en la formulación de políticas para enmarcar el desarrollo de la IA. Ha sido signatario de la carta del Future of Life Institute, llamando a una pausa temporal en el desarrollo de la inteligencia artificial general (IAG) y ha participado en la elaboración del informe internacional sobre la seguridad de la IA, que busca estandarizar la comprensión de los riesgos asociados con los sistemas de IA avanzados.
Yoshua Bengio continúa involucrándose en proyectos que ponen énfasis en el impacto social de la IA. Ha supervisado la publicación del primer informe internacional sobre la seguridad de la IA, que sirvió de base para las discusiones durante la Cumbre para la acción sobre la IA. En paralelo, su compromiso con una gobernanza sólida de la IA se manifiesta a través de sus posturas sobre la necesidad de regular los modelos de base, como ChatGPT, para proteger los derechos fundamentales y prevenir los abusos potenciales.
En conclusión, Yoshua Bengio sigue siendo un actor central y respetado en el campo de la inteligencia artificial, continuando influyendo en la dirección de la investigación y las políticas en IA gracias a sus contribuciones científicas y su compromiso con un desarrollo ético y responsable de la tecnología.
Yoshua Bengio est un chercheur reconnu pour être l’un des pionniers de la recherche en Deep Learning. Il est professeur à l'Université de Montréal. Il est également fondateur du Mila et co-fondateur d’Element AI.
Individu
2 articles liés à cet acteur
Yoshua Bengio lanza LawZero, una organización sin fines de lucro para promover una IA "segura por diseño", enfocándose en minimizar riesgos y maximiza...
La IAG (inteligencia artificial general) es considerada como el "grial" tecnológico por empresas como OpenAI o DeepSeek. Presentada como una oportunid...