AI(인공지능) 서울 정상회의가 21일부터 22일까지 서울에서 개최된다. 과학기술정보통신부(과기정통부)에 따르면 이번 회의는 한국과 영국이 공동 주최하며, 주요국 정상과 국제기구 수장, 빅테크 대표가 참석해 AI의 안전성과 포용적 발전을 논의한다.

정상 세션은 21일 오후 8시 30분부터 화상회의로 진행되며, 한·영 양국 정상이 회의를 공동 주재한다. 장관 세션은 22일 오후 2시 20분부터 서울 홍릉 한국과학기술연구원(KIST)에서 대면으로 진행되며, 이종호 과기정통부 장관과 미셸 더넬란 영국 과학혁신기술부 장관이 공동 의장을 맡는다. 이 자리에는 19개국 이상의 정부, 산업계, 학계, 시민사회 주요 인사가 참석할 예정이다.

시민사회는 이번 회의를 계기로 AI의 위험성으로부터 시민의 안전과 인권을 보호할 수 있는 국제 규범 마련을 각국 정부에 촉구하고 있다. 무상의료운동본부, 문화연대 기술미디어문화위원회, 민주사회를 위한 변호사모임 디지털정보위원회, 정보인권연구소, 진보네트워크센터, 참여연대 등 시민사회 단체들은 20일 성명을 통해 "AI 서울 정상회의가 AI의 국제 규범 마련 논의를 구체화하는 계기가 되기를 바란다"고 밝혔다.

시민사회에 따르면 유럽연합은 이미 독자적으로 AI 규제 법안을 통과시켰고, 미국 역시 AI 규제 법안 제정을 추진하고 있다. 유엔 총회에서도 AI 개발·규제 결의안이 채택되는 등 AI 규제 움직임이 확산되고 있다. 이에 시민사회는 "한국에서도 AI의 위험성을 규율하고 시민의 안전과 인권을 보호할 수 있는 법안을 마련해야 한다"고 강조했다.

그러나 시민사회는 이번 회의에 대한 우려도 표명했다. 특히 시민사회가 논의 과정에서 배제되었다는 점을 지적하며, "AI 규범 형성 과정에 중요한 이해관계를 갖는 시민사회가 배제되면서 포용의 가치가 훼손되었다"고 비판했다. 또한 "한국 정부의 AI 정책에 비판적인 시민사회가 국제 회의에 초대조차 받지 못했다"면서 "규범 논의 과정이 투명하지 않으면 사회적 신뢰를 얻기 힘들다"고 말했다.

시민사회는 AI의 위험과 악용에 대한 한국 정부의 실질적 조치 부재도 지적했다. 과기정통부가 딥페이크 등에 대한 악용을 막아야 한다고 주장하면서도 AI 기본법에 처벌 조항이 없는 점을 문제 삼았다. "AI의 위험성을 통제하기 위한 조치를 의무화하는 것이 과도한 규제라면, 제도적 안전 조치 없이 어떻게 AI의 위험성과 악용을 막겠다는 것인지 이해할 수 없다"고 꼬집었다.

시민사회는 "AI의 위험성으로부터 시민의 안전과 인권을 보호하기 위해 견고한 국제 규범을 마련할 것을 한국 정부와 각국 정부에 촉구한다"고 강조했다.