Python社区变天:可去除全局解释器锁GIL,真正多线程要来了

AI人工智能1年前 (2023)发布 ash
524 0
「Python 中的 GIL 将不复存在,这是人工智能生态系统领域中的巨大胜利。」PyTorch 核心维护者 Dmytro Dzhulgakov 感慨道。
Python社区变天:可去除全局解释器锁GIL,真正多线程要来了
GIL 是什么?GIL 的全称是 Global Interpreter Lock(全局解释器锁),它不是 Python 独有的,而是在实现 CPython(Python 解释器)时引入的一个概念。我们可以将 GIL 理解为一个互斥锁,用来保护 Python 里的对象,防止同一时刻多个线程执行 Python 的字节码,从而确保线程安全。


Python社区变天:可去除全局解释器锁GIL,真正多线程要来了


图源:https://realpython.com/python-gil/





然而,GIL 存在一个弊端,即在同一时刻只能有一个线程在一个 CPU 上执行,无法将多个线程映射到多个 CPU 上,使得 Python 并不能实现真正的多线程并发,从而降低了执行效率。

现在,

Python 团队已经正式接受了删除 GIL 的这个提议,并将其设置为可选模式

,可谓是利好广大开发者。

做出这一贡献的是一位来自 Meta 的名叫 Sam Gross 的软件工程师,他花费了四年多的时间才完成这一工程。

在得知这一消息后,大家纷纷叫好,深度学习三巨头之一的 Yann LeCun 发文祝贺:没有了 GIL,现在,Python 代码可以自由的执行多线程了。
Python社区变天:可去除全局解释器锁GIL,真正多线程要来了
「Python 中终于没有 GIL 了!」
Python社区变天:可去除全局解释器锁GIL,真正多线程要来了
「这是一个里程碑式的决定,是编码社区所热切期待的。」

Python社区变天:可去除全局解释器锁GIL,真正多线程要来了
具体细节如何,我们接着看下文。

CPython 核心开发者 Thomas Wouters 撰文描述了 Python 中的无 GIL 细节,并对未来发展做了展望。

非常感谢所有人对无 GIL 提议的反馈,整体上都持积极的支持态度。指导委员会打算接受无 GIL 提议,并就以下具体细节与大家分享。

我们的基本设想是:

  • 长期来看(大约 5 年以上),no-GIL 构建应是唯一的构建;
  • 我们希望非常谨慎地向后兼容。我们不希望出现另一个 Python 3 的情况,所有适应 no-GIL 构建所需的任何第三方代码更改应只适用于 with-GIL 构建(尽管仍要解决更老 Python 版本的向后兼容性问题)。这不适用于 Python 4。我们仍在考虑对这两个构建的 ABI 兼容性和其他细节的要求,以及对向后兼容性的影响;
  • 在我们承诺完全转向 no-GIL 之前,需要看到社区的支持。我们不能只是更改默认设置,更希望社区弄清自己需要做什么工作来给予支持。我们核心开发团队需要获得新构建模式及相关所有内容的经验。我们要整理现有代码中的线程安全性,因而需要弄明白新的 C API 和 Python API。我们在获得这些洞见时还需要传达给 Python 社区的其他人,并确保自身想要做出的更改以及希望他们做出的更改是可取的;
  • 在我们默认 no-GIL 设置之前的任何时候,如果事实证明了,它的破坏性太大导致收益太少,我们希望能够改变主意。这也就意味着我们会回滚所有工作,因此在我们确定要将 no-GIL 设为默认方式之前,特定于 no-GIL 的代码在某种程度上应是可识别的。

目前,我们认为未来的道路分为以下三个阶段:

  • 短期内,我们会将 no-GIL 构建作为一种实验性构建模式,大概是在 3.13 版本(也有可能推迟到 3.14 版本)。之所以是实验性的,是因为我们核心开发团队虽然支持这一构建模式,但不期望整个社区都会支持它。我们需要时间弄清自己要做什么,至少在 API 设计以及打包和分发方面,从而得到社区的支持。我们也不鼓励 distributor 将实验性 no-GIL 构建作为默认解释器发布。
  • 中期来看,在我们确信得到足够的社区支持并使 no-GIL 的生产使用可行后,我们将支持 no-GIL 构建,但不是默认方式,而是在某个目标日期或某个 Python 版本中使它成为默认方式。具体的时间将取决于很多因素,比如 API 更改最终兼容性如何、社区认为他们仍然需要做多少工作等。我们预计这至少需要一至两年的时间。一旦我们宣布支持,预计将有一些 distributor 会开始默认发布 no-GIL。
  • 长期来看,我们希望 no-GIL 成为默认方式,并删除 GIL 的所有痕迹(但不会不必要地破坏向后兼容性)。我们不希望等待太长时间,毕竟两种常用的构建模式同时存在会给社区造成很大的负担(比如需要双倍测试资源和 debug 场景)。但是我们也不能急于求成。我们认为这一过程将需要花费五年的时间。

当然在整个过程中,我们整个开发团队将需要实时评估进程并对时间线进行调整。

评论区的小伙伴们,你们对 GIL 成为可选是什么看法呢?


参考链接:


https://discuss.python.org/t/a-steering-council-notice-about-pep-703-making-the-global-interpreter-lock-optional-in-cpython/30474


https://twitter.com/dzhulgakov/status/1685667015800066048

© 版权声明

聆心智能Open Day发布CharacterGLM,共创超拟人大模型全「心」未来

AI人工智能1年前 (2023)发布 ash
0 0

聆心智能Open Day发布CharacterGLM,共创超拟人大模型全「心」未来


聆心智能 Open Day 活动现场




CharacterGLM 超拟人大模型:打造 “走心” 的 AI

聆心智能创始人、首席科学家

黄民烈

教授带领团队在开放日活动展示了聆心智能最新的技术进展和产品,与参会嘉宾分享和交流了大模型产业的趋势、挑战和机会。

聆心智能Open Day发布CharacterGLM,共创超拟人大模型全「心」未来


聆心智能 CEO 张逸嘉

活动现场,聆心智能 CEO 张逸嘉首先围绕 “AI Companion:从过去走向未来” 的主题,分享了 AI

聊天机器人

的 “前世今生”。自 1950 年艾伦・图灵推出了著名的

图灵测试

到 2022 年 ChatGPT 的火爆,人类从未停止对于

聊天机器人

的探索,功能型 AI 与拟人型 AI 在大模型时代均迎来革命性突破。如今,ChatGPT 增长已达瓶颈,人们对 “数字生命” 的需求远超预期,为此聆心智能依托自研的超拟人大规模预训练模型,打造 “数字生命大脑”,并在此基础上构建 AI 角色生成引擎,应用于社交、娱乐、教育、文旅、健康等多场景中,发挥 “拟人” 优势,打破 AI

聊天机器人

的应用瓶颈。

聆心智能Open Day发布CharacterGLM,共创超拟人大模型全「心」未来


聆心智能联合创始人郑叔亮

接下来,聆心智能联合创始人郑叔亮分享了 CharacterGLM 超拟人大模型的最新进展。聆心智能与 AI 大模型公司智谱 AI 深度合作,基于于 GLM 基座深度优化升级,打造 CharacterGLM 超拟人大模型,具备 “六边形能力”—— 人格、知识、能力、社会化、成长性、价值观。

CharacterGLM 超拟人大模型能够使 AI 拥有自己的 “个性” 和 “情感”,在交流过程中呈现出丰富的立体化 “人格”,不局限表面上 “机械性” 话术,具有更符合人类

逻辑

的思考能力、动作表情等非语言信息表达能力、角色的延续性记忆,根据用户实时情绪和性格人设给予富有个性但不失温度的回答,改善 “枯燥无味” 的聊天感受,同时更符合人类伦理道德。

除了能力超群之外,CharacterGLM 超拟人大模型还具备行业领先的技术优势,包括更强大的性能、更高效的推理、更长的上下文和更低成本的模型定制,能够允许更详细的角色设定、更多轮次的对话和更远的记忆深度,同时实现小数据多风格迁移的强大能力,兼顾灵活与高效。

聆心智能Open Day发布CharacterGLM,共创超拟人大模型全「心」未来


聆心智能产品主创张雨薇

基于 CharacterGLM,聆心智能研发了全新产品 AiU,目前正在内测中。AiU 是一个连接人与 AI 的兴趣互动社区。在社区内,用户可以根据个人偏好创造不同性格与人设的 AI 角色,实现互动聊天、分享美好瞬间。通过互动,AI 角色能够记住用户的喜好和信息,实现用户对 “角色” 的不断 “塑造”,同时,这些 AI 角色也在时时刻刻 “学习” 和 “感受” 外部世界,并发展成自己独特的成长轨迹。

在 AiU 社区内,用户能够实现 “Ai by U,Ai for U,Ai with U(AI 由你创造,AI 因你而在,AI 伴你同行)”,不仅能获得工具性支持,更能感受精神上的陪伴,共同创造有爱的 “乌托邦”。

聆心智能Open Day发布CharacterGLM,共创超拟人大模型全「心」未来


AiU 社区内的 AI 角色与嘉宾对话




有情更有 “用”:社交、情感、娱乐多领域探索 AI 商业化道路

CharacterGLM 超拟人大模型已经开启了商业化探索之路,聆心智能联合创始人郑叔亮以《商业模式的初探:用 “心” 创造商业价值》为题进行了分享。聆心智能以开放 API、云端私有化、本地私有化为底层技术支撑,构建了多样化的服务模式,包括创新型应用开发合作伙伴陪伴成长计划、领域代表性企业赋能 & 科研课题合作、平台企业 & 大型业务 & 规模化系统集成。

目前,聆心智能在社交、教育、文旅、娱乐、营销、健康、直播、客服等领域布局超拟人大模型服务,例如提供专业的心理陪伴和咨询;快速配置上线适应多场景的 “数字人”;生产游戏剧情和辅助策划;等等。

聆心智能Open Day发布CharacterGLM,共创超拟人大模型全「心」未来


数字栩生 CMO 郭学赟

活动现场,数字栩生 CMO 郭学赟分享了大模型在数字人领域的应用。数字栩生是一家数字人底层技术基础设施服务商,曾经打造了

字节跳动

游戏主角 “李星澜”、高逼真数字演员 “春草” 等专属数字人 IP, 并参与了 “梅兰芳” 大师复现项目,成功打造了全国首个高精度京剧数字名人。郭学赟认为,大模型是驱动数字人资产的重要底层,事实上当前还有很多数字人停留在基于语音、文本或预设触发的基础层级上,基于数字栩生和聆心智能双方长久以来的合作,将聆心智能 CharacterGLM 超拟人大模型与数字栩生自研的 AIGC 数字人智能交互系统相结合,让数字人具备更好的情绪价值,提供更多的情感交流,真正成为人类的贴心朋友。

聆心智能Open Day发布CharacterGLM,共创超拟人大模型全「心」未来


洪恩 AI 产品负责人聂靖骐

洪恩 AI 产品负责人聂靖骐分享了基于 CharacterGLM 拟人大模型打造的洪恩 AI 问答 2.0。该项目有效利用聆心智能在大模型领域的 “技术优势” 和洪恩高度契合用户需求的 “场景优势”,2023 年第一季度已上线,以独特的 IP 角色人设实现 “有温度的交流” 和 “准确的知识引导”,帮助小朋友收获德与智的双面成长。

聆心智能Open Day发布CharacterGLM,共创超拟人大模型全「心」未来


互动问答环节

互动问答环节,来自物灵科技、凌云光、芒果 TV、bilibili 等产业界和行业媒体的伙伴就 “超拟人大模型” 的记忆能力、用户反馈、应用场景、对话质量评价、未来计划等问题进行了提问,聆心智能创始人

黄民烈

教授、联合创始人郑叔亮、CEO 张逸嘉、产品主创张雨薇给予了全方位的解答。

孵化自

清华大学

计算机系的聆心智能,是国内最早一批做大模型和

自然语言生成


对话系统

的团队,基于自身情感

对话系统

领域的先发性技术优势自研打造 “超拟人大模型”,具备可信、可控、可配置的特点,拥有数百亿的

参数

量,是商业应用中

参数

规模较大的

语言模型

,在对话信息量、相关性、一致性等多个维度的性能评测中优于所有基线模型,达到目前中文对话模型的最优性能。

聆心智能Open Day发布CharacterGLM,共创超拟人大模型全「心」未来


活动现场

聆心智能 CharacterGLM 超拟人大模型的发布,意味着 “超拟人大模型” 在 “情感” 方面获得了显著提升,将在个性化表达、共情能力、伦理道德等方面推动 AI 发展,让 AI 更 “有心”“有爱”。此外,聆心智能与合作伙伴在商业化方面的探索,也将助力大模型的应用普及,共创未来美好人类社会。

© 版权声明

相关文章

暂无评论

暂无评论...