清华大学教授曹良才:关注ChatGPT 带来的信息泄露问题

2023-09-13 08:37:15 编辑:章鱼上古 来源:本站原创

近日,中关村论坛“智能+教育”论坛在京举办。

本次“智能+教育”论坛聚焦科技赋能教育、智能手段助力个性化教育发展、教育“新基建”的关键性成果、智能教育应用热点与典型案例、智能教育可持续发展等热点议题开展研究探讨。

业内顶级专家、学者业内顶级专家学者、教育行业研究人员及从业人员出席,并就相关问题展开热烈交流讨论。

头条教育有幸到场,对话清华大学精密仪器系教授、博士生导师曹良才。
 

以下为曹教授访谈实录——

头条教育:

您好,曹教授,作为清华大学精密仪器系的教授,想了解人工智能在咱们的系,或者是咱们这个行业,有哪些的应用场景呢?
曹良才:
其实现在人工智能已经渗透到整个工科领域了。以我自己为例,我主要研究光学成像和显示。以前人们拍照都是用单反相机,拍出来的图像虽然也会做一些处理,但处理还是相对较少,而现在手机里面集合了人工智能的算法,通过后期处理极大地提升了拍摄效果并且丰富了交互功能。比如说可以通过人工智能的方法进行多帧图像的处理合成,让图像更加清晰美观,达到接近于单反相机的画质。再比如说,手机自拍的美颜甚至AI换脸等功能和特效,也为用户带来了很多使用乐趣。在光学显示方面也是一样的,也可以用人工智能的方法,让显示图像的渲染速度更快、质量更好,这是传统方法所做不到的。
头条教育:
您刚刚其实提到了人工智能的好处。那它对我们的行业会又带来哪些挑战?是否会带来行业的重构或者从业人员的变革呢?
曹良才:
第一,目前的人工智能技术对能耗需求较大。现在的智能手机比较耗电,一个原因就是它在不断地进行信息处理,特别是拍照功能对功耗的需求曾不断增加。信息技术用电量占整体生活用电的比例会快速增加,这个对于未来的碳中和还是有一定影响的。以前整个实验大楼用电主要是动力机械装置等一些传统的用电,但现在个人电脑用电以及服务器用电量会大幅增加。有一个预测是到 2050 年,信息技术及相关领域的用电可能要占到我们社会用电的 50% 左右,这算是个很值得关注的比例。
第二个方面,人工智能本身的黑盒属性让它的可解释性和可靠性还有待提升。目前人工智能技术大多应用于风险性较低的场景中,例如自拍美颜,即使算法处理稍有差错也无伤大雅。而在医学诊断和自动驾驶等领域,人工智能算法的推理结果直接关乎人们的生命健康安全,如果判断错误,可能会造成非常严重的后果。

头条教育:
最近,ChatGPT 这个概念非常火爆,您认为应该如何看待ChatGPT,以及对教育行业会产生哪些影响?
曹良才:
今天我们在“智能+教育”论坛里也谈到很多跟ChatGPT 相关的内容。例如同学们写一份作业,或者记者去写一篇报道,如果拿内容和ChatGPT输出的内容进行对比,ChatGPT的内容质量可能会更高。但从教育和科研的角度来观察,我们还是比较谨慎的,毕竟它无法取代作业本身对学生思维培养和能力锻炼的过程。另外从信息安全的角度,我们不太鼓励同学们去向ChatGPT提问或搜集资料。比如我们写一篇文章,文章的草稿可能有二十 段,如果通过ChatGPT上传上去进行润色,意味着上传者把文章资料无偿贡献到网络空间了,这篇未发表的文章内容可能也会转移和反馈到其他ChatGPT用户的文章中。ChatGPT 确实很方便,在很多行业会有重要应用,但是我们从教育科研领域中信息保护的角度来看,建议还是相对谨慎一点,避免个人隐私数据与商业秘密信息泄露。

本站文章均为章鱼上古网站建设摘自权威资料,书籍,或网络原创文章,如有版权纠纷或者违规问题,请即刻联系我们删除,我们欢迎您分享,引用和转载,我们谢绝直接复制和抄袭!感谢...