一、现行法律
目前,韩国仅出台智能信息化和数字政府相关法律,并没有针对人工智能的专项法律。现将与人工智能领域相关的法律规范整理如下:
(一)《行政基本法(행정기본법)》(2024年1月16日施行),该法在第20条(自动处分)中明确规定,“行政机关可以根据法律规定采用完全自动化的系统(包括应用人工智能技术的系统)来作出处分。然而,如果处理中涉及自由裁量权,则不适用此规定。”这表明,2024年的最新《行政基本法》允许行政机关利用人工智能做出行政处分。
(二)《智能信息化基本法(지능정보화 기본법)》(2022年7月21日施行),其目的是为实现智能信息社会、确保国家竞争力、提高国民生活质量,制定和推进智能信息化相关政策的必要事项。该法共七章内容,第一章<一般规定>中对“智能信息化社会”“智能信息化社会伦理”作出释义;第二章规定智能信息化社会政策建立和推进体系,包括制定智能信息化社会总体规划和具体实施计划、智能信息化社会负责人及相应运作组织等;第三章从主要行业、公共部门、地方政府、民间机构、知识产权等方面要求分领域推进智能信息化;第四章则对智能信息技术研究主体、标准制定与执行、专业人才培训等方面进行规定,其中强调政府对中小企业发展智能信息化技术或服务提供支持;第五章规定构建智能信息化基础,包括国家情报网络管理、专门机构运作、振兴数据中心建立与相关数字政策制定等;第六章则从信息文化的发展和传播与社会变革的应对、保障智能信息技术和智能信息服务使用的安全可靠两方面规定智能信息社会的基本组成;第七章为附则。
(三)《数据产业振兴和利用促进基本法(데이터 산업진흥 및 이용촉진에 관한 기본법)》(简称《数据基本法》)(2022年4月20日施行),其制定目标在于促进数据的生产、采集、加工,推动与第五代移动通信(5G)和人工智能(AI)的融合与应用。
(四)《数据行政促进法(데이터기반행정 활성화에 관한 법률)》(2020年12月10日施行),该法旨在通过规定促进以数据为基础的行政活动所需的事项,通过客观且科学的行政工作提高公共机构的责任性、应变能力和可信度,提升国民生活质量。其中重点规定数据登记及提供程序等内容,对于公共机构在数据分析时所需注意的伦理问题并未作出相应规定。
二、国会法案提案动态
目前,有多部人工智能相关的重要法案在国会常任委员会提交审议,现整理如下:
(一)《人工智能产业培育和确保信赖法案(인공지능 산업 육성및 신뢰 기반 조성 등에 관한 법률안)》(法律提议案编号:2118726)(2022年12月17日提议),是针对促进人工智能产业发展的促进法,首先允许人工智能技术的研发和人工智能服务的推出,并将实行优先允许、事后管制原则,要求只有在问题出现时才进行规范。此外,针对高风险领域的人工智能,强调对其实施事前通知义务和信任性保障措施。
(二)《信息通信网法修正案(정보통신만법 개정안)》(法律提议案编号:2120001)(2023年2月14日提议),要求企业使用人工智能的推荐服务时须向广播通信委员会申报。
(三)《人工智能责任法(인공지능책임법)》(法律提议案编号:2120353)(2023年2月28日提议),规定提供人工智能的经营主体的相应义务,以及高风险人工智能系统使用者的责任。
(四)《个人信息保护法修正案(개인정보보홉 개정안)》(法律提议案编号:2120130)(2023年2月20日提议),规定若人工智能公司的算法导致个人信息泄露,个人信息保护委员会可以要求企业提供算法。
(五)《录用程序公正化法修正案(채용절차공정화법 개정안)》(法律提议案编号:2120898,2121075,2120799)(2023年3月27日提议),在企业使用人工智能进行招聘时,应事先通知被录用的候选人相应情况。
(六)《内容产业振兴法修正案(콘텐스산업 진흥법 개정안)》(法律提议案编号:2122180)(2023年5月22日提议),如果使用人工智能技术制作内容,应明确标注该内容是通过人工智能技术制作。
(七)《著作权法修正案(저작권법 개정안)》(法律提议案编号:2122537)(2023年6月8日提议),为利用计算机进行自动化信息分析的作品设立标准,以明确规定未来在使用人工智能技术的作品时允许的范围和侵权边界。
(八)《公职选举法修正案(공직선거법 개정안)》(法律提议案编号:2122569)(2023年6月12日提议),禁止利用人工智能输入虚假信息或指令来操纵民意调查结果,并将其用于选举活动;同时限制对此行为进行评论或报道。
(九)《信息通信网法修正案(정보통신망법 개정안)》(法律提议案编号:2122730)(2023年6月19日提议),明确定义信息通信服务提供者,包括利用人工智能技术提供信息或充当信息中介者的商业主体。
三、主要部门动向
(一)个人信息保护委员会
2023年6月,韩国个人信息保护委员会与英国、德国、日本等国家的个人信息主管当局以及欧盟、OECD等国际机构一起开展了AI相关个人信息政策讨论会。会上该委员会提出了三大政策方向:第一,保障落实AI服务提供商提供的安全保障措施,即确保经营者的责任性至关重要,经营者在开发人工智能(AI)模型、提供服务过程中,应尽最大努力确保不会不当侵犯信息主体的权益,采取预防和事后措施等;第二,规制方式从之前的以详细规则条款为中心(rule-based)转为以原则为中心(principle-based),由于人工智能以各种形式在各个行业中应用,提出核心原则并根据不同情况将原则实际应用是必要的;第三,对人工智能伴随的风险进行登记分类,政府和私人部门需共同建立评估各种类型和具体情况的敏感性和风险的标准和模型。
(二)科学信息通信部
科学技术信息通信部为确保人工智能伦理和信任,制定了考虑OECD、欧盟等人工智能的推荐方针的人工智能伦理标准(2020年12月),并制定了能自主遵守和检查伦理标准的指南(自主检查表和开发指南)(2022年2月)。其中,伦理标准10大要点:①人权保障,②隐私保护,③尊重多样性,④禁止侵犯,⑤公共性,⑥团结性,⑦数据管理,⑧责任性,⑨安全性,⑩透明性;自主检查表:基于伦理标准的10大核心要素 /开发指南:基于可技术实现的4大核心要素。
2023年5月发布了“建立数字新秩序方案”,旨在规定数字深化时代应追求的普世价值、主体(公民、企业、政府等)的权利和责任、解决数字深化的争议等原则,并在9月制定数字权利法典。
此外,科技信息通信部举办了“加强人工智能伦理和信任的研讨会(2023年5月)”,进行了针对人工智能领域代表性企业的现场访问(2023年6月),举办了讨论交谈会(2023年6月)以探讨对抗生成式人工智能等安全威胁的方向。
(三)韩国通信委员会
韩国通信委员会制定了“基于人工智能的媒体推荐服务使用者保护基本原则(2021年6月)”,并发行了相关说明书(2022年4月)。此外,自2019年以来,每年都举办“智能信息社会使用者保护国际会议”,讨论随着人工智能技术的传播带来的社会、文化影响。此会议旨在讨论随着人工智能技术的传播而出现的新型用户保护问题,并营造国际社会对相关政策的共识。
(四)中小企业和初创企业部
2023年6月9日,中小企业创业部邀请OpenAI公司创始人Sam Altman和主要高管来韩国,部长李荣(이영)表示:“从今天的会谈开始,我们将与OpenAI持续交流合作,让我们的人工智能相关初创企业在全球范围内得到发展。”
来源:数字经济与社会

