∞直接答案
直接答案
用AI准备简短且带链接的项目材料。给它固定问题和已批准文件。要求它列出来源、缺口和冲突。复核人必须核查重要事实。委员会必须作出决定。NIST 指出,生成式AI可能自信地生成错误内容,包括虚假引文。[2]
使用AI前先限定任务
从一项任务开始。例如,让AI根据指定文件起草项目摘要。不要让它选择项目或预测回报。
先写好问题。问题可包括是否符合投资范围、客户证据、团队、现金、条款、冲突和待核查事项。这样每个项目都有相同起点。
NIST 将AI风险工作分为治理、映射、衡量和管理。可用简单方式遵循此顺序。指定负责人。定义使用方式。测试输出。然后采取行动。[1]
- 目的:形成初稿,不作决定。
- 输入:写明文件、来源和允许使用的数据。
- 输出:要求列出说法、来源、日期、限制和待答问题。
- 负责人:指定可以停止流程的人。
为会议建立一张证据卡
给工具一张固定卡片。每项重要说法单列一行。链接原始记录和核查日期。
把事实和观点分开。已签署的客户订单可以支持收入说法。创始人对未来需求的看法是观点。两者都可能重要,但不是同一种证据。
不要只看链接而不打开它。NIST 说,团队应审查和核实生成式AI输出中的来源和引文。[2]
- 说法:委员会需要评估的准确要点。
- 证据:来源链接、短引文和核查日期。
- 限制:该记录不能说明什么。
- 状态:已确认、不清楚、有争议或未核查。
让人工复核成为真正的控制
给复核人时间和修改权限。复核人应阅读重要来源、修正错误并标记未知事实。他们也应能暂停项目。
不要把人当作盖章者。人可能过度相信AI答案。IOSCO 指出,人工监督需要合适能力、清晰责任和对自动化偏见的注意。[4]
升级可能改变决定的事项。例如,投资组合冲突、股权表缺口、客户说法、数据权利问题或关键条款。交易需要时,应寻求合格的法律、税务或其他意见。
- 复核人:姓名和日期。
- 变更:复核人修正的内容。
- 升级:问题、负责人和截止日期。
- 覆盖:人为何改变AI结果。
测试变更并保留简短记录
先在旧项目上测试新提示词、模型或规则。将其初稿与已由人核查的记录比较。查找缺失事实、薄弱来源和变化的答案。
保存工具和提示词版本。保存文件集、复核日期和主要修改。之后的读者应能看出材料如何形成。
对在投资服务中使用AI的欧盟投资公司,ESMA 要求治理、测试、监控,以及AI使用、数据来源和变更记录。[3] 这些是有用的控制思路,不是适用于每位投资者或每个地区的法律规则。
- 测试集:已有核查来源记录的旧项目。
- 衡量:缺失事实、来源错误和复核人修改。
- 变更记录:提示词、模型、来源集和规则版本。
- 停止规则:出现重要错误时暂停使用。
FAQ
常见问题
REF
资料来源
- 1
National Institute of Standards and Technology
AI Risk Management Framework ↗ - 2
National Institute of Standards and Technology
Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile ↗ - 3
European Securities and Markets Authority
Public Statement on Artificial Intelligence and Investment Services ↗ - 4
International Organization of Securities Commissions
Supervisory Toolkit for AI Use in Capital Markets ↗ - 5
U.S. Securities and Exchange Commission
SEC Charges Two Investment Advisers with Making False and Misleading Statements About Their Use of Artificial Intelligence ↗
