本文目录一览：
杨耀东:大语言模型的安全性对齐|演讲摘录+视频
杨耀东：大语言模型的安全性对齐｜演讲摘录+视频 大语言模型的安全对齐技术 在智源大会「AI安全与对齐」论坛上，北京大学人工智能研究院的杨耀东助理教授分享了他对大语言模型的安全对齐技术的见解。
针对大语言模型的安全对齐，杨耀东提出了三种主要方法：数据清洗过程排除歧视、偏见和危害性数据；使用奖励模型进行拒绝抽样；从算法层面进行模型微调，如使用RBRM和Constitutional AI等。实现最终产品级安全的大语言模型，需要结合上述方法。
大型语言模型（LLM）中的响应采样理论研究：该课题深入研究大型语言模型的响应采样机制，以提高模型的生成质量和多样性，如DeepSeek团队的论文所探讨的内容。算法公平性中的群体差异意识研究：该课题关注算法在决策过程中的公平性，特别是针对不同群体的差异性和偏见问题，如北大杨耀东团队的论文所研究的领域。
人工智能大模型有哪些?
Sora（OpenAI）文生视频大模型，支持高质量视频生成，具备物理世界模拟能力，应用于动画制作、游戏开发等场景。可灵（快手）短视频生成模型，支持动态表情、动作捕捉与实时渲染，适用于社交媒体、短视频平台。Vidu（生数科技）长视频生成模型，支持复杂叙事结构与多角色交互，应用于影视预告片、广告宣传片制作。
人工智能大模型的定义人工智能大模型（AI Large Models）是指基于深度学习技术，通过海量数据训练、具备大规模参数和强大计算能力的机器学习模型。这类模型通常具有以下特点：大规模参数：模型参数数量通常达到数十亿甚至数千亿级别，能够捕捉数据中的复杂模式和关系。
我国的人工智能大模型包括但不限于以下这些：百度文心一言（ERNIE Bot）、阿里巴巴通义千问、腾讯混元大模型、华为盘古大模型、深度求索·DeepSeek、字节跳动豆包大模型、科大讯飞星火大模型、智谱AI·GLM-百川智能·百川大模型以及商汤日日新大模型等。
腾讯混元AI大模型：通过下载开发者工具，使得AI技术在手机或电脑上触手可及，助力业务分析和优化。华为盘古大模型：包含了视觉和语言预训练模型，提供了大数据分析支持，以解决AI规模化和产业化的挑战。盘古系列大模型由多个子模型构成，通过模型泛化，赋能更广泛的业务需求。
AI大模型常见的分类有通用大模型、行业大模型、专业大模型和私有大模型。 通用大模型 模型说明：通用大模型的底座技术是生成式的AI，更具体地说是大语言模型（LLM）。它基于全网公开数据（如书籍、网页、论文等）进行训练，学习了全人类公开的知识。
首批备案AI大模型：数量：11家说明：这些模型是国内首批按照《生成式人工智能服务管理暂行办法》进行备案的AI大模型。第二批备案AI大模型：数量：11家说明：随着监管政策的逐步完善，更多AI大模型通过了备案审核。第三批备案AI大模型：数量：9家说明：国内AI大模型的研发和应用持续加速，备案数量稳步增长。
人工智能行业专题报告:从deepfakes深度伪造技术看AI安全
1、人脸伪造技术人脸伪造技术是Deepfakes的一个重要分支，可被进一步划分为有目标可视身份伪造和无目标可视身份伪造。有目标可视身份伪造技术能够针对特定个体进行面部替换或篡改，使得虚假内容在视觉上与目标个体高度一致。这种技术在俄乌冲突中已有应用，显示了其在军事、政治等领域的潜在危害。
2、欧盟《人工智能法案》（EU AI Act）是一部综合性法律框架，旨在通过基于风险的方法监管欧盟市场上可用的人工智能系统。作为产品安全立法，其目标是保护欧盟公民的基本权利、健康与安全免受人工智能技术的威胁。
3、网站主要内容：Kpopdeepfakes网站主要制作和分享利用深度伪造技术创作的虚假视频和图片。这些虚假内容往往涉及K-pop明星，包括假想的音乐视频、舞蹈视频、MV等。深度伪造技术是一种利用人工智能技术创建假视频的技术，它能够通过替换视频中的面部、声音等元素来创造逼真的虚假内容。
人工智能软件排行榜前十名
1、年国内热门人工智能软件排行榜前十名如下：通义千问（Qwen）：由阿里推出，覆盖办公、编程等场景，已集成于钉钉、淘宝生态。智谱清言（GLM）：智谱AI推出的通用大语言模型，擅长中文生成与代码辅助。百川大模型（Baichuan）：支持多模态输入，响应速度快，受开发者青睐。
2、人工智能软件排行榜前十名根据不同的评价标准和数据来源可能有所不同，以下提供两个不同榜单作为参考：榜单一：2025年AI助手十大品牌CHATGPT：所属公司为美国OpenAI公司，于2022年11月推出，能完成聊天、文字翻译、文案撰写、诗歌创作、代码编辑、方案推算等任务。
3、OpenAI位列第二，显示出其在人工智能领域的强大实力。从全球AI大模型的角度来看：2025年的排名中，OpenAI的GPT-Anthropic的Claude7Sonnet、Google DeepMind的Gemini0等模型在国际上处于领先地位。中国的深度求索DeepSeek R阿里的Qwen5-Max、百度的文心一言0等模型也在国内表现出色。
还没有评论，来说两句吧...