北京前瞻人工智能安全与治理研究院是聚焦人工智能安全发展与治理，融合科学研究、产业应用、高端智库能力的北京市新型研发与产业赋能机构。研究院致力于构建系统化的AI安全与治理体系，服务人工智能的创新与应用，推动前沿人工智能技术的安全与稳健发展。依托北京市丰富的学术资源与产业生态，研究院积极推进跨学科融合与应用发展，面向重大安全问题与前瞻议题持续攻坚，探索可持续的人工智能发展与治理路径。

研究院由联合国人工智能高级顾问机构（UN AI Advisory Body）专家、TIME100/AI入选者曾毅领衔发起并任院长，聚焦人工智能模型安全、治理机制与实践、伦理评估体系建设等关键方向。研究院核心成果发表在AAAI、ICML等领域顶级国际会议，作为中国人工智能安全与治理代表性机构之一参与国际合作与科技外交。核心研究团队成员来自中国科学院、哈尔滨工业大学、爱丁堡大学等知名科研机构，并与北京大学、清华大学、中国信通院、中科闻歌、瑞莱智慧等产研机构相关科研与产业化机构与团队深度合作。

研究院的核心价值观：人工智能伦理安全是人工智能的研发、应用与部署的第一性原理，不可删除，不可违背。安全与治理不仅是驾驭技术发展的缰绳，更是引领其正确航向的方向盘。安全与治理能力是人工智能的能力发展的核心要素。技术创新与风险防范可以也必须兼得。安全与治理确保人工智能稳健发展，赋能全球可持续发展与和谐共生。

研究院网站：https://www.beijing-aisi.ac.cn

根据近期科研与产业赋能工作需求，现招聘以下岗位，工作地点为中关村门头沟园京西智谷：

一、 岗位名称：

助理研究员（大语言模型安全方向）

岗位职责：

1.开展大语言模型（LLM）相关的安全性研究，探索模型对齐、鲁棒性、偏见防控、红队测试等关键问题；

2.研究并开发基于强化学习等方法的人类偏好对齐与安全增强算法；

3.参与开源LLM框架或安全评估工具的研发与维护，推动安全技术在大模型体系中的落地；

4.撰写与发表高水平国内外顶会/期刊研究论文；

5.跟踪与研判前沿进展，协助团队制定研究方向与技术路线，推动产学研协同发展。

任职要求：

1.计算机、人工智能、数学、控制等相关专业博士，或硕士具备高水平研究成果；

2.熟悉主流大语言模型训练和推理架构（Transformers,veRL,TRL,vllm,SGLang等），具备大模型微调与对齐经验；

3.扎实的强化学习背景，尤其在RLHF、RLAIF、GRPO等方面有实践或理论成果；

4.至少在A类国际会议/期刊发表过2篇以上相关论文（NeurIPS、ICLR、ICML、ACL等）；

5.有LLM安全方向研究经验者优先，如有红队测试、可解释性、审查机制等项目经验尤佳；

6.具备良好的科研能力、独立思考与团队协作精神，善于沟通与知识共享。

我们提供：

有竞争力的薪酬待遇与科研资源支持；

与一流高校、实验室和产业合作的科研环境；

支持产出高水平论文并参与国内外交流；

专注于前沿领域的探索机会与成长空间。

二、 岗位名称：

LLM安全方向实习生

岗位职责：

1.协助开展大语言模型（LLM）相关的安全性研究与系统实验，包括模型对齐、风险评估、鲁棒性测试等；

2.支持价值对齐相关项目的算法调研与原型实现；

3.跟进国内外相关领域最新研究进展，参与论文阅读、报告撰写及代码实现；

4.协助研究团队进行数据处理、模型训练与实验评估。

任职要求：

1.计算机、人工智能、数学等相关专业硕士或本科高年级在读，具备扎实的编程能力（如Python、PyTorch）；

2.对大语言模型和/或强化学习有深入兴趣，有相关项目、论文或开源贡献者优先；

3.具备良好的英文文献阅读能力和科研写作能力；

4.每周可实习至少3天，实习期不少于3个月（优秀者可远程，定期线下参会研讨）；

5.有志于在人工智能前沿研究领域深入发展。

我们提供：

与优秀研究员共同参与前沿科研项目的机会；

实习期间有导师指导，表现优异者有留用/推荐信/合著论文等机会；

丰富的学术资源与实验平台支持，开放包容的团队氛围。

三、 应聘方式

请将以下材料发送至hr@beijing-aisi.ac.cn（邮件主题标明为“姓名+应聘岗位+硕博英才网shuobojob.com”）

简历

代表论文PDF（标注顶会收录情况）

GitHub技术账号（附安全相关项目链接）

研究陈述（500字阐明对LLM安全趋势的理解）

北京前瞻人工智能安全与治理研究院(Beijing Institute of AI Safety and Governance)是通过人工智能安全发展与治理，促进人工智能稳健发展与负责任应用的新型研发机构。前瞻研究院致力于构建系统化的安全与治理体系，为人工智能的创新和应用提供坚实的安全保障，引领人工智能安全与治理的新趋势。前瞻研究院致力于打通人工智能安全与治理前沿研究及产业自律自治、政府引导与监管的全新探索。研究院基于北京市和国内外合作伙伴的丰富学术资源和产业优势，推动跨学科合作，不断探索新的研究路径，解决人工智能伦理与安全领域中的潜在和紧迫问题。研究院还致力于人工智能长远风险与安全的战略性前瞻研究，并积极参与和贡献于人工智能安全与治理国家战略和国际合作与交流。前瞻研究院不仅仅是立足北京，服务北京，更会将北京人工智能安全与治理的探索与全国各省市积极分享，共同探讨与促进。并与全国的相关机构一道促进人工智能安全与治理的中国实践，发出中国声音，融入和贡献于全球人工智能的稳健发展。

研究院网址：http://beijing-aisi.ac.cn/

联系方式：contact@beijing-aisi.ac.cn

原文出处：

https://mp.weixin.qq.com/s/Yuoq_eOyhLFa3pM3fWWhWQ