> 自媒体 > (AI)人工智能 > 用chat破解ChatGPT,高校和AI斗智的这四个月
用chat破解ChatGPT,高校和AI斗智的这四个月
来源:南方都市报
2023-04-06 13:16:01
712
管理

从GPT-3到3.5,再到4——ChatGPT快速迭代的这几个月,高校对于学生用它完成作业的抵制态度悄悄转了向。近日,香港科技大学的一门课程鼓励学生在期中报告使用ChatGPT,并承诺给予额外加分。

与此同时,教师和学生之间的“拉锯战”逐渐趋于平和。学生一开始热情满满,用着用着却发现ChatGPT生成的答案虽然看上去“卖相”不错,但细究下来可能不那么靠谱,比如部分内容为杜撰;教师中则分化出了不同的看法:有人坚持禁用ChatGPT,也有人提出与其禁用,不如观察它、使用它,用批判性思维去看待它。

破解ChatGPT最有效的方法是反制它吗?有高校教授认为,ChatGPT就像是提供标准答案的培训机构,但人们总有方法跟它斗智斗勇,以前搜索引擎时代是这样,以后chat(聊天)时代还是这样,而“破解ChatGPT的最重要的方法就是chat”。

1

从禁用到鼓励,

高校对ChatGPT态度转向

ChatGPT是由美国人工智能实验室OpenAI开发的对话AI模型。于去年11月底推出后,ChatGPT的底层模型已经经过两次迭代,拥有极其出色的文本生成和对话交互能力。而对于很多学生来说,ChatGPT最大的用处莫过于输入一个问题,就能轻松得到看上去质量相当不错的作业、报告甚至论文。

“这个写作水平,公务员写材料地位稳了。”“把课程小论文丢进ChatGPT改,没想到效果奇好,很多建议都很中肯,这样做真的会节省很多时间,作为助教帮助改课堂论文也得到了教授的认可。”网络上,学生如此描述他们使用ChatGPT的亲身体验。根据美国在线课程网站Study.com向一万名18岁以上的学生发起的调查,89%的学生表示自己会使用ChatGPT完成作业。

但很快就有人发现,ChatGPT有时会“一本正经地胡说八道”。比如有人检索了ChatGPT生成的论文参考文献,结果发现绝大多数文献为杜撰。更值让教师们担心的是,当学生习惯了使用ChatGPT来完成学习任务,可能会对它产生依赖甚至用它作弊,进而丧失独立思考能力。

为防止ChatGPT带来学术欺诈、剽窃的现象,高校、政府、学术期刊纷纷发布禁令。截至目前,美国、英国、法国、澳大利亚、印度均有多所大学明令禁止在论文和课程作业中使用ChatGPT,否则将以学术不端进行惩处。

在美国,洛杉矶联合学区早在去年12月就成为首批封锁ChatGPT的地区之一,纽约市教育部也已宣布禁止在学校的设备和网络上使用ChatGPT。《自然》《科学》等国际知名学术期刊亦发表声明,完全禁止或严格限制使用ChatGPT等AI机器人撰写学术论文。

不过,近来高校对ChatGPT的态度似乎有“破冰”的迹象。

这种迹象最早可以追溯到已有多所高校对ChatGPT下达禁令的美国。2月,宾夕法尼亚大学沃顿商学院资深教授Ethan Mollick发文呼吁学生“在教学中拥抱ChatGPT”。专门研究创业与创新的Mollick认为,只有这样,才能让学生们经过事实核查从而能够很快理解AI的准确性和偏见问题。

3月初,香港科技大学(下称“港科大”)宣布,由教师自行决定是否准许学生使用ChatGPT。这一决定很快有了执行者——当月14日,港科大一门课程鼓励学生在期中报告中使用ChatGPT,还给予额外加分。

该学科负责人黄岳永表示,与其他香港高校禁止或限制使用ChatGPT等AI工具不同,港科大管理层希望鼓励大家“尽快去学”。他还表示,在评分时,更看重学生与ChatGPT互动时的辩证思维和反思能力。

和高校教师对ChatGPT的态度相比,学生对ChatGPT的热情却在逐渐冷却。

在他们看来,由于没有接入网络、数据库并不完整,ChatGPT往往在复杂的理论上“栽跟头”。但出现这一问题的时候,ChatGPT并不会坦诚地表示“我不知道”,而是会先编造一些答案。

“我用它搜索论文,但它输出给我十几份不存在的文献。”有研究生在社交媒体上表示。因此,一位博士生在网上直言:“不要试图让ChatGPT给你写文献综述,因为复杂的理论它也不懂,最好自己给它解释一遍,而且还要防着他出现虚假文献、错误引用等问题。”

2

担心ChatGPT破坏学术公平,

迫在眉睫还是杞人忧天?

尽管存在种种瑕疵,ChatGPT的强大无可否认。根据美国医疗保健初创企业安西布尔健康公司研究人员发表的论文,ChatGPT在美国执业医师资格考试中得分率为52.4%-75%(60分即为通过考试)。此前,ChatGPT还通过了美国的司法考试以及商学院考试。

一边是流利的对答和在某些标准考试中的完美表现,一边是极度缺乏常识、虚假信息信手拈来——当ChatGPT走入高校甚至学术界,伴随着对于学术公平、学生丧失学习积极性的担忧,教师群体之中渐渐分化出了几种不同的观点。

上海大学文学院创意写作学科教授、博士生导师谭旭东一直注重培养学生的创意和主体性。他对南都记者表示,ChatGPT可能引发学术不端和诚信问题,“如果过分借重这种尚未完全成熟的人工智能技术,那至少对写作是一个伤害。”

在首批禁止学生在学校网络和设备上访问ChatGPT的纽约,教师们采用了相当严格的惩罚措施。

“在未经确认的情况下使用ChatGPT的后果与任何学术剽窃案件的后果相同,从重做作业、扣分,到向学院院长提交报告都有可能。”纽约大学文理学院副院长Jenni Quilter接受媒体采访时说。该校的古典学系主任David Levene也提到,除非得到他的明确许可,否则任何使用ChatGPT的行为都将被视为剽窃。

当谈到国内高校该如何约束或是利用ChatGPT时,谭旭东直言应该禁止用ChatGPT写论文和研究报告。他指出,用ChatGPT写论文,尤其是写研究论文是“本末倒置”,因为以机器和技术替代人去思考、研究,本身就是不负责任的行为。

但武汉大学校长张平文并不赞成高校禁止使用ChatGPT的做法。“年轻人有使用高科技获取知识的愿望,这是一纸禁令所无法阻挡的。”他在接受媒体采访时指出,“对待ChatGPT的使用态度应像治理洪水一样,堵不如疏”,更要训练学生的批判性思维,不要满足于算法推送的现成答案,同时加强大学人文教育,提高学生的人格养成和精神境界。

还有一种观点认为,当下的ChatGPT存在着诸多能力上的限制,所以担心它破坏学术公平是杞人忧天。

英国格拉斯哥大学博一在读的小段对此深有感触。在他看来,对于博士而言,ChatGPT能给学业带来的帮助“几乎可以说是没有”。

小段日常的工作大部分是读文献、撰写文献综述,其中包括对研究方向、当前领域研究进度、研究态度的思考和批判,但ChatGPT并不能辅助这一点。“因为文献综述要基于大量的文献撰写,写的时候有一定的格式规范,而ChatGPT无法带文献引用,只能输出简单的文本。”他说,“它的数据库里面没有学术数据库的版权,所以文献综述这一块它肯定不行”,而且目前ChatGPT不能上传文档、文本输出有字数限制,并没有人们想得那么实用,“可能更适合本科生或者硕士生。”

这些观点得到了华南理工大学法学院副教授叶竹盛的证实。他告诉南都记者,ChatGPT只能给学生提供基础性的信息检索的辅助,并且有些内容是经不起推敲的,高水平的学术论文写作只能由研究者自己来完成,ChatGPT无法完成深度内容的呈现。

“ChatGPT可能会有一些基础性的错误。比如有一次我用寻找法律条文的方式测试ChatGPT,发现它完全无法详细精确地查找哪一部法律的哪一条是什么内容,并且可能会出现基础的知识类错误,然后它也可能会犯一些逻辑上的错误,比如说因果关系的错误或者倒因为果。”

叶竹盛还指出,高水平的学者一眼就可以判断出来论文自身的水平怎么样,是不是言之有物、能不能站得住脚、有没有学术创新性,“这个不是ChatGPT能够取代得了的”。“ChatGPT并不能生成高水平学术性文章,因而不会对学术领域带来颠覆性影响,也就不用担心它破坏学术公平。”

3

“破解ChatGPT最重要的方法就是chat”

每当一个变革性的新兴技术出现,其“双刃剑”效应似乎总让人们游走于拥抱它还是抵制它的两难境地。尤其在学校里,教师对学生的引导至关重要,如果只是“一禁了之”,忽视新兴技术给学术规范带来的挑战,或许会引发其他弊端。

“学校作为一个科研和教学机构,体现出教育行业的反思和自我革命的要求,我觉得这个可能是更重要的事情,而不在于它禁止还是允许(使用新型AI技术)。” 中国传媒大学新闻传播学部副教授周逵如是说。

他表示,虽然自己的课堂上还没有出现使用ChatGPT的行为,但他会对自己的教学模式做出调整,如在作业中让学生们提交问题而不是答案。“我觉得能问出好问题比找到好答案可能更重要。要看到ChatGPT到目前为止还不会提问,我觉得人类目前还可以保持住发问者的状态和尊严,至少从人文社科领域可以这么去考虑。”

“它(ChatGPT)有点像给考生提供标准答案的培训机构,但是一般这种情况之下很容易被问出来。总是有方法去跟它斗智斗勇的,在以前搜索引擎时代是这样的,以后chat(聊天)时代还是这样的。”周逵笑称,“破解ChatGPT的最重要的方法就是chat。”

前述宾夕法尼亚大学教授Mollick则已经在面向本科和硕士级别的创业和创新课程中,以三种不同的方式训练学生使用AI,甚至允许学生使用ChatGPT来写论文,不过他也给出了使用ChatGPT的限制,以帮助学生更好地认清ChatGPT的工具属性。这三种方式分别是向AI提供描述性词汇,在描述中增加一些限制和专业知识,以及“AI 人工”共同编辑——最后一种方式的教学效果明显优于前两者。

香港大学禁用ChatGPT后,副校长何立仁曾对媒体表示此举是短期措施,但他于3月9日再次向师生重申相关政策不变,将持续到8月结束。对此,叶竹盛直白地表示不认同:“我觉得应该要接受这个技术,因为防是防不住的。对高校来说,当下最重要的是改变培养的重点和考核的重点,然后尽快应用ChatGPT学术反剽窃系统,这种系统可能才是当务之急。”

相比高校选择禁止还是鼓励使用ChatGPT,周逵更担忧的是,现在大家都沉浸在技术爆炸的想象当中,社会对其负面影响却没有足够的应对方式。“我觉得学校不管禁止还是接纳,都可能需要在一个更超然的立场上去观察、做批判性思考。”

采写:南都记者胡耕硕 实习生路欣冉

0
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
chatGPT可以写中文吗-用chatGPT写原创文章
chatGPT可以写中文吗ChatGPT可以写中文。在过去的几年中,许多深度学习机..
Chat GPT 硬核使用指南:让你一个人顶一个团队
今天写点不一样的内容,聊聊最近很火的ChatGPT,关于ChatGPT的注册就不啰..
商汤大模型“商量”多个评测表现超ChatGPT,用户可申请试用..
商汤科技近日公布的自研中文语言大模型“商量SenseChat 2.0”在MMLU、AGI..
怕泄密iPhone 15?苹果宣布禁用ChatGPT
苹果公司内部文件显示,禁止员工使用ChatGPT及类似产品,原因是担心这些A..
女老师与学生发生不正当关系,聊天内容曝光
增强公众意识,营造社会正气教育和引导公众加强对于教育事业的关注和理解..
达摩院发布大模型测试基准:GPT-4勉强及格,其他模型悉数落败..
机器之心专栏机构:达摩院多语言NLP阿里巴巴达摩院多语言 NLP 团队发布了..
GPT-4后,微软再扔重磅炸弹:它叫Copilot,能自动生成PPT还能写文章..
当地时间14日,微软支持的OpenAI发布升级后的GPT-4,再次掀起“人工智能..
兆龙互连:抓住物联网发展机遇,前景可期
总结:兆龙互连作为中国物联网领域的重要参与者,拥有丰富的经验、技术实..
GPT-4重磅更新:自动选择组合各种功能,一条龙完成全部任务..
要求根据美国丹佛当时的天气信息生成图像,ChatGPT自己调用DALL·E完成。..
关于作者
朴一生(普通会员)
文章
618
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行

成员 网址收录40369 企业收录2981 印章生成216706 电子证书945 电子名片57 自媒体34015

@2022 All Rights Reserved 浙ICP备19035174号-7
0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索