∞直接答案
直接答案
审计轨迹让复核人能够逐步追溯一份AI研究记录。保存主张、原始来源、提示词、工具、输出、复核和每次变更。用它核验主张。它不能证明项目值得投资。NIST 警示,生成式AI可能产生错误内容和虚假引文。[1]
从一张主张卡开始
先写一条可能改变项目判断的主张。它可以涉及客户、现金、股权或关键条款。不要只写“增长很强”这类宽泛记录。
每条主张使用一张单独的卡片。保存原文、类型和当前状态。标明它是事实、预测、观点还是待解问题。
写明第一来源。加入文件或网址、页码或单元格、来源日期和核验日期。AI摘要只是线索,不是来源。
NIST 指出,生成式AI可能自信地给出错误内容和虚假引文。使用信息前,应打开所列来源。[1]
- 主张编号:简短且固定的名称。
- 证据:来源、位置、日期和简短原文。
- 状态:已确认、待核、存在冲突或已否决。
- 负责人:负责关闭或上报该问题的人。
保存AI运行记录,而不只保存最终备忘录
在运行工具前保存研究问题。保存提示词、工具名称、已知模型版本、运行日期,以及可使用的文件或链接。
保存第一版输出。不要只保留修改后的整洁备忘录。复核人需要看到人工编辑前工具说了什么。
把每个输出要点链接到一张主张卡。工具无法说明来源时,标为未知。不要让流畅句子遮住证据缺口。
NIST 建议团队复核并验证生成式AI输出中的来源和引文。[1]
- 问题:本次运行的有限任务。
- 输入:获准文件、网址和截止日期。
- 运行记录:工具、已知版本和时间。
- 输出记录:已保存回答及主张卡链接。
让人工复核可见
复核人应打开重要来源。他们应核对主张、日期,以及来源没有说明的内容。之后可以确认、更改或否决该要点。
记录复核人姓名、复核日期和每项重要修改的原因。冲突、缺失文件或向公司提出的问题,应另作记录。
不要把复核人当作橡皮图章。复核人必须有时间和权力,阻止薄弱结果进入项目备忘录。
ESMA 表示,对其投资服务范围内的机构,记录应涵盖AI使用、决策流程、数据来源、算法和随时间发生的变更。[3]
- 复核动作:确认、更改、否决或上报。
- 变更说明:改了什么,以及原因。
- 待办问题:缺少的证据和下一步。
- 升级:谁决定该问题是否改变项目判断。
保存可检索的记录
将主张卡、来源副本或引用、AI运行记录和复核说明放在一起。为记录设置项目编号和清晰的文件夹或系统路径。
敏感文件进入流程前,应设定访问规则。指定记录负责人。向法务或合规人员咨询保存期限、隐私和停止删除的要求。
在美国,已注册或必须注册的投资顾问有特定账簿和记录义务。SEC规则允许电子保存,但按其条款要求访问、检索、保护和单独副本。[2]
IOSCO 将AI输入、输出、系统逻辑、决策和使用日志列为监管者可能审阅的审计轨迹证据。[4] 合适的记录集合取决于机构、地区和用途。
- 记录路径:项目编号和一个检索位置。
- 访问:可查看或更改记录的人员。
- 保存:负责人、复核日期和删除规则。
- 事件:错误、影响、修正和后续检查。
FAQ
常见问题
REF
资料来源
- 1
National Institute of Standards and Technology
Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile ↗ - 2
Electronic Code of Federal Regulations
17 CFR 275.204-2 — Books and records to be maintained by investment advisers ↗ - 3
European Securities and Markets Authority
Public Statement on Artificial Intelligence and Investment Services ↗ - 4
International Organization of Securities Commissions
Supervisory Toolkit for AI Use in Capital Markets ↗
