| 王文玉.生成式人工智能应用的社会风险与治理路径[J].南京邮电大学学报(社会科学版）,2024,(05):28~39 |
| 生成式人工智能应用的社会风险与治理路径 |
| Social risks and governance paths of generative artificial intelligence applications |
| |
| DOI： |
| 中文关键词: 生成式人工智能 社会风险 系统治理 审慎监管 |
| 英文关键词:generative artificial intelligence social risk system governance prudent super- vision |
| 基金项目:国家社会科学基金西部项目“大数据、法治与国家治理现代化研究” (23XFX001) ;教育部人文社会科学重点 研究基地重大项目“ 习近平总书记关于科技与法治发展重要论述研究” (22JJD820004) |
|
| 摘要点击次数: |
| 全文下载次数: |
| 中文摘要: |
| 生成式人工智能的发展和应用会引发社会生产关系、 创新方式、 组织结构、运行状态、 价值准则的联动变革。 在变革过程中也会带来用户数据隐私被 侵害 , 大型科技公司滥用垄断权力 ,生成内容存在虚假性、 误导性、 歧视性 ,难以确 定担责主体等具有弥散性和渗透性的社会风险。 为此 ,应当对生成式人工智能生 命周期内的设计、 应用、监管、救济等流程展开结构化、 系统化治理。 首先 ,应通过 建构应用清单制度 ,完善数据分级、 分类管理和流通制度 ,建立数据训练师准入制 度 ,从源头控制相关风险的产生。 其次 ,完善信息内容审查过滤机制 ,通过技术嵌 入方式提升监管机构的参与性和介入性 ,对生成式人工智能展开全流程监管。 最 后 ,应通过建构完善的损害救济制度以及二阶责任分配方案 , 最大限度降低相关 损害后果的负面影响。平台运营方、双方或多方用户间形成的平台权力法律关系的非对称性是导致互联网平台上诸多问题发生的根源。平台权力是平台权力法律关系的决定性要素，其本质是平台基于“看门人”地位、纵向整合能力和信息不对称的优势而获得的社会权力。平台权力的存在，使得平台权力法律关系在内部构造（平台权力关系）中表现为平台对用户的支配关系；用户条款的存在，使得这种支配关系在外部构造（平台法律关系）中被转化并确认为一种平等的合同关系。应当承认用户条款的社区公约地位，加强以用户条款为核心的、由平台与用户共同参与的平台自治，规范平台权力的行使，对用户条款进行备案审查并制定示范性文本。 |
| 英文摘要: |
| The development and application of generative artificial intelligence will trigger a linkage transformation of social production relations , innovation methods , organizational structure , operational status , and value criteria. In the process of change , it can also lead to the infringement of user data privacy , the abuse of monopoly power by large technology companies , the generated content can be false , misleading , discriminatory , and may have other social risks with diffusion and penetration such as being difficult to determine the responsible party. Therefore , structured and systematic governance should be carried out for the design , application , supervision , and relief processes within the lifecycle of generative artificial intelligence. Firstly , it is necessary to establish an application list system , improve the management and circulation system of data grading and classification , and establish a data trainer access system to control the generation of related risks from the beginning. Secondly , improve the information content review and filtering mechanism , enhance the participation and intervention of regulatory agencies through technology embedding , and carry out full process supervision of generative artificial intelligence. Finally , a comprehensive damage relief system and a two-aspects responsibility allocation scheme should be established to minimize the negative impact of related damage consequences. |
| 查看全文 查看/发表评论 下载PDF阅读器 |
| 关闭 |
|
|
|