他們承認，中美之間的戰略互不信任、戰略重點衝突以及不願共享敏感情報能力，可能會使雙方在這方面的合作更具挑戰性。此外，儘管兩國可能願意在防止濫用人工智能方面展開合作，但圍繞通過開源人工智能的軟實力競爭，也可能成為新的摩擦領域。
第四，人工智能實體發展出不受控制的自主性。當前人工智能系統最具變革性的方面之一是其展現自主性的能力：它們能夠在一定程度上自主地規劃和執行任務，通常無需人類的直接監督。這些能力對於解決複雜問題和推動創新有著巨大的潛力，但也蘊含著巨大的風險。
兩位專家指出，自主人工智能系統可能出現故障或行為不可預測，從而可能造成廣泛的危害。例如，一個由人工智能驅動的空中交通管制系統，由於設計缺陷或不可預見的情況，導致飛機在全國範圍內發生碰撞。這種情況凸顯了對強有力的保障措施和監督機制的迫切需求，以確保這些系統按預期運行。在確保自主人工智能系統的控制和安全方面，中美可能會有共同的合作動機。
第五，不穩定性。作者指出，華盛頓和北京將面臨競爭態勢和不同的激勵機制。這或許是大國競爭不可避免的結果，但如果兩國都認為自己在追求穩定，而對方卻採取挑釁性且可能破壞穩定的舉措，打破兩國之間原本脆弱的平衡，情況可能會進一步惡化。 |
