软件完成了交易。 企业须受约束吗？
平台能否仅因价格出乎预期，就撤销自动执行的交易？
自动化交易可以产生合同义务。如果软件产生意料之外的结果，企业能否直接撤销交易？
在 Quoine Pte Ltd v B2C2 Ltd [2020] SGCA(I) 2 一案中，新加坡上诉庭审视了自动交易系统所执行交易的合同责任。
事情经过如何？
B2C2使用算法软件在Quoine的交易平台买卖加密货币。一次操作问题发生后，部分交易以当时市场价格约250倍的价格成交。
Quoine撤销了这些交易，B2C2随后提起诉讼。
法院如何裁决？
多数法官维持了Quoine须承担违约责任的裁决。其合同方面的论点及单方错误抗辩，均不足以支持撤销交易。不过，关于违反信托义务的另一项认定被推翻。
法院认可，即使双方事前不知道具体条款，合同仍可通过算法订立。在评估对错误的知情程度时，法院审视了相关程序编写者或操作人员从编程阶段直至合同成立时的认知。
需要注意的是，有关软件属于确定性程序，即按照预先编写的规则运作。本案并未裁定自我学习型AI系统或生成式AI提供不准确答案所涉及的责任。
企业可从中获得什么启示？
1. 明确系统获准执行哪些操作。
软件提出报价供人审批，与软件直接发出要约或接受订单，在实际操作上有所不同。企业应明确哪些环节需要人工批准，并设定适当的交易限额。
2. 在错误发生前，约定处理机制。
采购合同应涵盖错误定价、重复订单、系统集成失败及未经授权的交易。应明确何时可以暂停或撤销交易、必须通知哪些人，以及相关损失如何由各方分担。仅笼统提及“系统错误”，可能无法解决重要问题。
3. 区分系统缺陷与意外结果。
商业上不利的结果，本身并不能说明软件究竟发生故障、执行了不恰当的指令，还是接收了错误信息。应明确预期功能、验收测试，以及供应商和客户各自的责任。
4. 保存足以说明交易过程的记录。
保留适用的合同条款、审批记录、系统设置、变更历史及交易日志。这些资料可能是证明系统收到哪些指令，以及谁知悉正在出现的问题的关键。
对采用AI的企业而言，这些是实用的预防措施，并不意味着本案已解答现代AI的所有法律问题。每次部署所涉及的合同安排、技术及具体情况，仍然重要。
马来西亚在可比较案件中的法律立场，仍有待司法实践进一步发展。尽管如此，Quoine仍为采用自动化系统的企业提供了有用参考，尤其是在合同责任及风险分配方面。马来西亚法院将如何处理类似争议，须视适用法律、合同条款及具体事实而定。
Quoine Pte Ltd v B2C2 Ltd [2020] SGCA(I) 2
分享这篇文章
遇到类似问题？
欢迎联系本所咨询。
请向本所简述相关情况。
本所将协助您了解可行的法律途径。