深層学習：心電図に対する深層学習モデルは敵対的攻撃の影響を受けやすい

医療機器や商用機器による心電図取得はますます普及しており、データ解釈自動化戦略の開発が必要になっている。最近では、心電図出力の自動解析にディープニューラルネットワークが用いられていて、これらは特定の心臓リズム異常の不規則性の検出では医師よりも優れた成績を挙げている。しかし、深層学習の分類器は敵対的サンプルの影響を受けやすい。敵対的サンプルは生データから生成され、分類器を欺いてサンプルを誤ったクラスに割り当てるが、人間の目では検出できない。敵対的サンプルは医療関連タスクでも生成されてきた。しかし、このようなものを生成する従来の攻撃手法は、心電図信号にまで直接及ぶことはない。それはこうした手法では生理学的に妥当とされることがない矩形波のアーチファクトが導入されるからである。今回我々は、心電図出力に対して平滑化した敵対的サンプルを構築する手法を開発した。このサンプルは、人間の専門家による評価では見つからず、単極誘導心電図から不整脈を検出する深層学習モデルは、このタイプの攻撃に脆弱であることが分かった。我々はさらに、既知の敵対的サンプルを照合して摂動させ、複数の新たなサンプルを生成するための一般的手法を考案した。深層学習型心電図アルゴリズムが敵対的攻撃による誤分類を起こしやすいことは、変化が加えられた可能性のある心電図に対して深層学習モデルを評価する際には（誤分類を引き起こすような誘引がある場合は特に）、十分に注意すべきである。