생성형 AI

무엇인가

생성형 AI는 새로운 콘텐츠를 만들어 낼 수 있는 일련의 시스템을 가리킨다. 텍스트, 이미지, 영상, 소스 코드, 합성 데이터 등이다. 방대한 자료로 학습한 이들 모델은 패턴을 찾아내고 특정 요청에 적합한 응답을 생성한다. 분류나 예측 시스템과 달리 생성형 모델은 횡단적 계층으로 확산되며, 업무용 소프트웨어에 점진적으로 통합되어 모든 기능에 자동화된 보조 도구를 부여한다.

쟁점과 논쟁

공론을 구성하는 쟁점은 네 가지다. 지식재산권: 모델은 사람이 만든 콘텐츠로 학습하지만 저작자에게 보상이나 명시적 동의가 없어 보수와 이용 권리에 관한 물음을 낳는다. 허위정보: 그럴듯한 콘텐츠를 대량으로 만들어 내는 능력은 기만의 비용을 낮추고 검증을 어렵게 만든다. 편향: 모델은 학습 데이터에 존재하는 불평등을 재생산하고 증폭한다. 끝으로 투명성은 여전히 취약하다. 모델이 어떻게 답에 이르는지 이해하기는 아직도 어렵고, 이는 법적 책임과 신뢰를 복잡하게 만든다.

규제와 유럽의 틀

유럽에서는 인공지능 규정이 위험에 기반한 틀을 마련한다. 기반 모델로 불리는 범용 모델은 학습 데이터의 문서화, 시스템적 역량 평가, 금지 콘텐츠 방지 등 고유한 의무를 진다. 적용은 단계적으로 이뤄진다. 데이터 보호 당국은 투명성과 데이터 관리에 관한 요건을 구체화하고, 유럽연합 집행위원회가 시행을 주도한다. 유럽의 공공 당국은 또한 기술 주권과 기반 모델에 대한 감독을 두고 논의를 이어 간다.

ActuIA가 주목하는 것

ActuIA는 법적 틀의 변화, 지식재산권을 둘러싼 논쟁과 혁신과 보호 사이의 절충, 모델의 견고성과 감사 분야의 진전, 공공 및 민간 부문의 시범 사업, 그리고 위조 미디어와 자동화된 차별 같은 문제적 활용을 둘러싼 논란을 다룬다. 아울러 투명성과 표준화 노력, 그리고 독점 모델을 대체하는 오픈소스 대안도 함께 살핀다.