sécurité

최근 뉴스

현재 인공지능 환경에서 보안은 빠른 기술 발전과 다양한 분야에서 AI의 증가하는 통합으로 인해 주요 관심사가 되었습니다. 최근 프랑스는 인공지능의 평가와 보안을 위한 국립 연구소(INESIA)의 설립으로 AI 보안을 강화하기 위한 중요한 조치를 취했습니다. 2025년 2월 인공지능 및 디지털 담당 장관인 Clara Chappaz에 의해 발표된 INESIA는 AI 보안에 대한 국가적 노력을 조율하는 것을 목표로 합니다. 이 이니셔티브는 캐나다, 미국, 영국과 같은 국가들이 안전하고 신뢰할 수 있는 방식으로 AI 개발을 규제하려는 국제적 맥락에 속합니다. ANSSI 및 Inria와 같은 기관 간의 협력을 촉진함으로써 프랑스는 대중의 신뢰를 강화할 뿐만 아니라 의학 및 산업과 같은 중요한 분야에서 혁신을 지원하고자 합니다.

2025년 사이버 보안의 도전은 Palo Alto Networks가 의뢰하고 Vitreous World가 수행한 연구가 보여주듯이 AI 기반 위협에 의해 강조됩니다. 특히 프랑스 기업들은 이러한 위협을 주요 도전 과제로 인식하고 있으며, 74%의 기업이 AI를 주요 위험으로 식별하고 있습니다. 이 수치는 유럽 평균을 초과하며, AI로 인해 더욱 정교해진 공격에 대한 우려가 커지고 있음을 강조합니다. 대부분의 프랑스 기업들이 AI 애플리케이션에 대한 신뢰를 표현하고 있지만, 기술적 단편화는 주목할 만한 장애물로 남아 있습니다. 보안 도구의 다양성은 기업이 사이버 위협에 효과적으로 대응할 수 있는 능력을 저해합니다. 결과적으로, 사이버 보안 솔루션의 통합 및 통합 추세가 나타나고 있으나, 40%의 기업만이 이미 그들의 사이버 생태계를 통합하기 시작했습니다.

세계적으로 2025년 1월 Yoshua Bengio가 이끄는 AI 보안에 관한 첫 번째 국제 보고서의 출판은 고급 AI와 관련된 위험을 이해하는 데 중요한 단계를 나타냅니다. 96명의 국제 전문가에 의해 작성된 이 보고서는 악의적인 사용, 시스템적 오작동, AI의 경제적 및 사회적 영향의 위험을 강조합니다. 투명성과 거버넌스는 남용을 방지하고 대중의 신뢰를 강화하기 위한 주요 문제로 식별됩니다. 보고서는 효과적인 보안 표준을 개발하기 위한 국제적 협력을 촉구하며, 잠재적으로 파괴적인 위협에 직면한 공동 행동의 긴급성을 강조합니다.

AI의 보안은 또한 Joe Biden의 AI 위험 관리에 관한 행정 명령을 Donald Trump 대통령이 철회한 정치적 결정에 의해 시험대에 올랐습니다. 이 결정은 고급 AI 시스템에 대한 엄격한 규제의 부재에 대한 우려를 불러일으켰습니다. SaferAI와 같은 조직들은 AI 기업의 위험 관리 관행의 부족을 강조하며 새로운 입법적 조치의 필요성을 강조합니다. LLMs의 적응형 공격에 대한 EPFL의 연구는 효과적인 안전장치를 유지하는 데 어려움을 드러내며, AI 모델의 보안을 강화하기 위한 지속적인 연구의 중요성을 강조합니다.

결론적으로, 현재 AI 생태계의 보안은 중요한 교차로에 있습니다. AI를 보호하기 위한 노력은 국가적 및 국제적 차원에서 배가되고 조율되어야 합니다. AI가 사이버 보안에서 공공 안전에 이르기까지 다양한 분야를 계속 변형시키면서, 윤리적이고 안전한 방식으로 이 기술이 사용되도록 보장하는 것이 중요합니다. 최근의 발전은 진전이 이루어졌음에도 불구하고 많은 도전 과제가 남아 있으며 정부, 기업 및 연구 기관의 지속적이고 적극적인 주의가 필요함을 보여줍니다.