处理智科科技在省内高校的所有合作项目。该退费的退费,该赔偿的赔偿。有问题吗?”
李副省长擦擦汗:“没没问题。”
“那就这样。”林杰往外走,“沈总,你好自为之。”
“林书记!”沈梦瑶追出来,“您这是要逼死我们企业!”
林杰停下脚步,回头看她:“沈总,你父亲沈国华当年也说过类似的话,你们这是要逼死我。结果呢?他违法乱纪,就该受到惩罚。你现在做的事,比你父亲更危险,他在国内搞腐败,你在把中国学生的数据往国外送。”
沈梦瑶脸色煞白。
“许主任,”林杰对许长明说,“通知公安部、国安部、市场监管总局,按程序对智科科技立案调查。该查封查封,该抓人抓人。”
走出省政府大楼,上午的阳光刺眼。
林念苏跟在父亲身边,轻声说:“爸,您刚才的话很重。”
“不重不行。”林杰上车,“这种企业,这种模式,必须一次性打掉。否则会有更多企业学样,更多学校上当。
车驶向机场。路上,林杰给院领导打电话汇报情况。
“领导,情况就是这样。智科科技的问题很严重,涉及数据出境、侵犯隐私、技术滥用。我建议全国范围内彻查所有ai教育企业,建立准入和监管机制。”
电话那头沉默了一会儿:“林杰同志,你的处理我同意。但要注意方式,智科科技倒掉,会有几亿的合同纠纷,几百人失业,还有那些已经装了系统的学校,后续怎么办?”
“我们会制定过渡方案。”林杰说,“但原则不能退,学生的数据安全、隐私权利,必须放在第一位。”
“好,那你就牵头,尽快拿出一个全国性的规范。”领导说,“ai是趋势,不能因噎废食。但要立规矩,画红线。”
挂了电话,林杰对许长明说:“回北京后,立即组建起草小组。教育部、科技部、工信部、公安部、网信办、市场监管总局,都派人参加。一个月内,拿出《教育领域人工智能应用伦理指南》初稿。”
“一个月会不会太紧?”
“紧也要做。”林杰说,“现在每拖一天,就多一天风险。”
回到北京,已是下午三点。
林杰直接去了教育部会议室。
起草小组的第一次会议,二十多个人已经等着了。
“各位,时间紧,任务重。”林杰开门见山,“咱们今天就把大纲定下来。”
科技部的一位司长先发言:“林书记,我觉得首先要明确ai在教育中的定位,是辅助工具,不是替代品。这个基调得定准。”
“我同意。”工信部的代表说,“还要划定技术红线,哪些数据能收,哪些不能收;数据存在哪,怎么用,谁有权用。”
公安部的同志补充:“必须建立数据出境审批制度。涉及学生隐私的数据,原则上不得出境。确需出境的,要经过严格的安全评估。”
网信办的代表说:“还要有问责机制。企业违规怎么罚,学校监管不力怎么处理,要写清楚。”
讨论了两个小时,大纲基本成型。
《教育领域人工智能应用伦理指南(暂定名)》,分六章:
第一章:总则。明确ai在教育中的辅助定位,坚持教育以人为本。
第二章:数据伦理。划定数据收集范围,明确知情同意原则,建立数据分类分级保护制度。
第三章:算法伦理。要求算法透明、可解释,禁止基于算法的歧视性评价。
第四章:应用边界。列出负面清单,ai不得用于哪些场景如监考定罪、心理评估、信用评分等。
第五章:安全要求。规定数据存储、传输、处理的安全标准,建立出境审批制度。
第六章:监管问责。明确企业、学校、监管部门各方责任,设立违规举报和处罚机制。
“框架有了,但具体条款还得细化。”林杰看看表,“这样,分六个小组,每组负责一章。一周后交初稿,我们再合。”
!散会后,林杰刚回到办公室,华北科技大学的刘司长打来电话。
“林书记,华北科技这边处理完了。”刘司长声音疲惫但轻松,“三十七个学生全部复核完毕,三十五个平反,取消处分。学校公开道歉,赔偿精神损失。那两个真作弊的,也按正规程序重新处理。”
“学校领导呢?”
“校长记大过,分管副校长免职。”刘司长说,“那个ai监考系统已经拆了。我们还发现,引进系统时,学校收受了智科科技五十万‘赞助费’,已经移交纪委。”
“好。”林杰顿了顿,“学生们情绪怎么样?”
“刚开始很激动,现在平复了。”刘司长说,“有个学生跟我说:‘林书记,我们不是反对技术,是反对技术滥用。如果ai真能帮我们学习,我们欢迎。但如果ai是用来监视我们、审判我们,那我们宁可不要。’”
挂了电话,林杰站在窗前,久久不动。
那个学生的话,说到了根子上。
技术本身没有错,错的是用技术的人,是用技术的方式。
晚上七点,林杰还在办公室修改大纲。
许长明进来,脸色有些奇怪:“林书记,有个熟人想见您。”
“谁?”
“江东省人民医院的老院长,周海峰。”许长明说,“他说是您的老领导,路过北京,想看看您。”
林杰愣住了。
周海峰,他当然记得。三十多年前,林杰从医学院毕业,分配到江东省人民医院,院长就是周海峰,没少帮他。
“快请。”
几分钟后,一位头发全白、但精神矍铄的老人走进来。
七十多岁,腰板挺直,走路带风。
“周院长!”林杰迎上去握手。
“还叫院长?