出会いが本当に恐れるのは、マルウェアのように意図的に自己増殖する能力を自己複製して実装できるテクノロジを確立したことです。たとえば、テロリストがサイバースペースでAIによる攻撃を開始したとすると、これは治療を行わずに強力な感染力のある出会いを奪い取る行為です。プログラムとAIは決定的に異なります。 AIによってコピーされ最適化されたプログラムはバグを修正することは不可能です。
たとえば、飲料水を製造するためのすべてのプロセスはAIで自動化されています。 AIは原材料の調達から販売チャネルまで最適なコストで飲料水を作り続けるでしょう。地球上で飲用できる水は4％以下です。水源が枯渇しても、AIは工場を稼働させ続けます。やめるべきですか？どうやって？最適化されたAIは、飲料水をすべてのステップで複雑にし続けます。
出会いは、50年代に書かれたSF小説「出会い」で、ロボットの3つの原則を提唱しています。