合规风险，是指量化交易可能导致的内幕交易、操纵市场等违规行为的风险。
一种不当交易行为是利用网络技术优势,在相关信息传播到市场之前“抢先”交易。此类交易不仅有损公平,还可能涉嫌内幕交易。如“新闻聚合”的做法就涉嫌内幕交易。该算法通过在互联网、新闻网站和社交媒体中搜索关键词,并在几毫秒内抛出大量订单，交易的速度之快,通常会在相关信息还没有广泛传播时已经完成。因此,国外监管当局正在讨论此类交易是否违反了内幕交易规则。
另一种不当交易行为为幌骗（Spoofing），是指在交易中通过反复的申报和撤单,诱使其他投资者不断抬高申报价格,从而在短时间内迅速推高股价并从中获利。2010年美国《多德—弗兰克法案》明令禁止“幌骗”交易。2015年11月3日，美国芝加哥联邦法院陪审团判决，高频交易员MichaelCoscia被判定在商品交易欺诈和幌骗罪名成立。这是美国首宗引用反幌骗交易法判定幌骗罪的刑事案件。在量化交易系统设计过程中，应当避免单个或多个独立的量化交易策略在特定交易产品上频繁偏离当前市场价格进行不以成交为目的的申报、撤单，以防止发生幌骗行为。
第三种不当交易行为为自成交行为。通过控制不同账号进行自买自卖的自成交行为会给市场传递错误信号，导致市场的价格与流动性并不能准确反映市场的真实水平。美国商品期货委员会对2014年至2015年的交易数据进行了分析，研究发现公司间的自成交行为，包括场内交易与场外交易，在单独的期货合约的日内交易数据中占有很大比重。例如：在2015年2月，某个期货合约发生在公司间的自成交行为占到了该合约全部交易量的10%，而若是以天来计算，这种自成交行为则占到了15%。其他合约的自成交行为占比仅为5%。
对上述不当行为的预防应通过设置交易系统内部程序来限制，以保护量化交易者在同时运行多个量化交易系统的情况下免于因合规风险而受到监管机构的处罚。