昨天，能容纳160余人的上海大学宝山校区乐乎新楼学海厅，加座一直排到了门外，由上海大学未来技术学院联合腾讯教育举办的“腾讯AI百校行”活动人气爆棚。因为这次开来的是一辆最近大热的“龙虾专列”——腾讯工程师们不仅要帮同学们现场安装“龙虾”，更要告诉同学们，怎样才能养一只“听话、懂事、不添乱”的“好虾”。老师们则关注，当学生拥有强大的数字”学伴“，大学教育应该赋予他们哪些人类独有的能力？
“龙虾”好用，但需要一个“笼子”
对于“龙虾”这个超级AI助理，同学们有期待，有担忧，也有的已经开始摸索和它的相处之道。控制科学与工程研二学生田天洋最近在做强化学习方面的调研，需要阅读大量文献，他希望他的“龙虾”可以帮助他提高文献阅读和分析的效率，并进行数据的可视化处理。从上个月开始，机器人工程专业大二学生贾尚奇拥有了两只“龙虾”，一只负责“每天早上8点通过通讯软件，推送最近的科技新闻”，另一只负责督促他及时完成阶段性任务，克服“拖延症”。一个多月下来，人“虾”配合默契。不过，他也对“龙虾”的安全性始终抱着谨慎的态度，尽管已经通过一些简单技术手段对自己的“虾”有所约束，还是希望能从专业工程师这里，获得更多安全秘笈。
同学们的疑惑，得到了工程师的回应。“万变不离其宗还是安全，因为‘龙虾’对任何人来说还是有一些‘黑盒属性’。” 腾讯教育高级行业架构师袁健说，在“养虾”之前，要思考如何把“虾”放在“笼子”里，即启用沙箱机制以隔离潜在风险。对于同学们而言，一只训练有素、带有明显个人风格的“龙虾”能成为数字“学伴”，沉淀从学术成就到校园生活方方面面的数据，这时，就必须考虑离开学校后数据的可迁移性。
“只需5步，你就可以为你的AI助理打造一个坚不可摧的安全屋。”腾讯云安全架构师庞昭胜介绍，这些步骤包括安全隔离、端口加固、权限最小化、密钥管理和定期审计。腾讯的经验则是，通过一套包括安全护卫定制、全天候无死角监控、病毒消杀防护在内的全链路防护方案，帮助师生在享受智能体便利的同时，筑牢系统与数据安全屏障，让师生能够更专注地开展教学与科研工作。
AI能干活，但你要会提问
任何一项新科技诞生之初，都和风险伴生，唯有在使用过程中，才能不断完善。上海大学未来技术学院副院长岳涛表示，不能因为有担忧，就阻止同学们拥抱新科技。因此，学院鼓励同学们在课程、科研、项目实践中，养出属于自己的“高智能、高效率、高安全”专属小龙虾，这也是学院推进产学研协同、助力学生掌握前沿技术的重要举措。
他透露，今年9月，未来学院还将携手腾讯推出一门全新的课程“智能编程与开源开发”，其中一大模块就是“Agent开发与实践”，要求学生去构建一个属于自己的专属智能体。
人工智能专业负责人张闻华坦言，自己和同事们也是“龙虾”的受益者——无论是准备课件、安排课表还是制作宣传网页，“龙虾”都能得心应手，比以往靠“手搓”，工作效率呈几何倍数提升。
但是，这也引起了她的思索，并把问题抛给在场同学。“如果写代码只需要0秒，你想解决什么问题？”
很快，她自己找到答案——“当AI是你的超级程序员，你的任务就是提出好问题，做出好判断”。张闻华认为，今后要培养的绝对不是“写代码的机器”。AI时代，学生要扮演三种“核心角色”——其一为“创造者”，会提出想法、定义需求、设计解决方案；其二为“审核者”，能够读懂AI输出、识别逻辑漏洞、验证算法的正确性；其三为“把关人”，负责评估安全风险、保障输出质量、对结果负责。
如何才能成为AI的主人，而不是被“龙虾”钳住人类的思想？袁健认为，从“养虾”之初，就应该用人类的智慧和精准的自然语言，让“龙虾”拥有自己的行为准则、做事风格，定义它的性格和价值观，更重要的是，在工作手册中为它的一些行为划定“红线”。与此同时，也要通过精准的用户画像，让“龙虾”更“懂事”。
美港通提示：文章来自网络，不代表本站观点。
