Tầm vóc nhỏ bé, hay chuyện, mềm mỏng trong quan hệ giao thiệp, có mái tóc đen nhưng sớm bạc, nét mặt đặc trưng dân vùng Nearian – đó là miêu tả của những người đương thời về con người này.
Xuất thân của đô đốc thủy sư Valter Vilhelm Canaris không rõ ràng, quá khứ lẫn lộn. Theo một số lời kể thì tổ tiên của hắn là người Italia, những nguồn tin khác lại khẳng định là người Hy Lạp. Nguồn thông tin này lại rẽ làm hai hướng. Theo hướng thứ nhất, ông tổ của Canaris là Constantin Canaris, nhà hoạt động nổi tiếng của phong trào giải phóng dân tộc Hy Lạp những năm 1820, một thủy thủ, người đã làm nổ tung hạm đội Thổ Nhĩ Kỳ. Nguồn thông tin này phát ra chính từ miệng hoàng đế Vilhelm II khi ông này đọc một tài liệu có nhắc tên gã thủy thủ trẻ Vilhelm Canaris: “Chẳng phải anh bạn Canaris đây là hậu duệ của người anh hùng dân tộc trong chiến tranh giành độc lập Hy Lạp sao?
Bản thân Canaris không bao giờ phủ nhận quan hệ họ hàng với vị anh hùng dân tộc mà chỉ mỉm cười khi người ta hỏi về điều này. Nhưng nguồn tin đúng hơn có lẽ là từ những người khẳng định tổ tiên của hắn là dân tiểu thương từ Hy Lạp đã đến Đức hồi thế kỉ XIX và trở nên giàu có ở đây. Điều đó mang lại cho hắn khả năng được gia nhập phục vụ trong đơn vị hải quân uy tín thuộc Hạm đội Hoàng gia.
Hồi đầu Thế chiến I, Vilhelm là hạ sĩ quan trên tuần dương hạm “Dresden” chuyên thực hiện những vụ đột kích trên Đại Tây Dương, đánh đắm tàu buôn của đối phương. Canaris không được chú ý bởi các chiến tích nhưng hắn được đánh giá là người có khả năng tìm kiếm ở những cảng trung lập ngôn ngữ chung với những người cung cấp và chính quyền sở tại để họ không những không gây trở ngại mà còn phối hợp cung cấp cho “Dresden” mọi thứ cần thiết. Ngoài ra hắn còn biết tung tin giả về hành trình tiếp tục của tuần dương hạm “Dresden”, và khi nó đến gần người Anh rồi thì người Anh lại tìm kiếm “Dresden” ở một nơi nào đó khác. Nhưng bất chấp những mánh khóe của Canaris, “Dresden” vẫn bị phát hiện tại một trong vô số các vịnh của bờ biển Chile.
Sau khi “Dresden” bị đánh đắm, Canaris đã chạy thoát. Người ta không rõ lắm về hành tung thời kì này của Canaris. Một số người cho rằng hắn đã sang Mỹ, từ đó liên lạc với fon Papen đang là tùy viên quân sự và công sứ tại Washington. Trước năm 1916, Canaris trốn ở Mỹ, thực hiện nhiệm vụ do Papen giao phó và tham gia tổ chức một số vụ nổ và phóng hỏa. Năm 1916, thoát không bị vạch mặt, hắn chạy sang Madrid. Còn theo những nguồn tin khác, sau khi tuần dương hạm “Dresden” bị đánh đắm, Canaris đã lên một chiếc tàu Anh với hộ chiếu giả của Chile mang tên Rid Rosos trở về châu Âu. Hắn đóng giả làm một công dân Chile và hoạt động chống quân liên minh suốt năm 1915. Hắn trợ giúp cho các bộ tộc Ả Rập ở Marocco và Tây Phi, kích động họ nổi dậy chống lại Anh và Pháp. Hắn chuẩn bị các vụ phá hoại ngầm và hình như đã làm nổ tung chín chiếc tàu của Anh. Ngoài ra, hắn còn tuyển mộ nhiều điệp viên, trong đó có nàng Mata Hari lừng danh. Người ta cũng kể chuyện rằng khi bị giam trong nhà tù của Italia, Canaris đã bóp cổ chết vị linh mục đến thuyết giáo và đổi áo quần, hóa trang trốn thoát. Canaris thích nghe những chuyện thêu dệt về hành tung của mình, không bao giờ phủ nhận hay khẳng định điều gì mà chỉ mỉm cười hết sức bí ẩn.
Hồi cuối Thế chiến I có thời gian hắn đã làm việc trên tàu ngầm, sau đó trở thành chỉ huy trên thiết giáp hạm “Slezvig”. Mặc dù là sĩ quan hải quân nhưng Canaris luôn dính líu đến hoạt động tình báo. Hắn sẵn sàng thực hiện những nhiệm vụ bí mật, biết mọi chuyện và thông báo tin mới cho bạn bè của mình. Đồng sự gọi hắn là “Kiker” (Gã nghe lén). Nếu nói về quan điểm chính trị thì Canaris là kẻ căm ghét những người bolsevich, ngả theo chủ nghĩa quốc xã. Như mọi nhà hoạt động của nước Đức quốc xã khác có quá khứ đáng ngờ (ví dụ Haydrich có cha là người lai Do Thái, Canaris biết rõ điều này và đã dùng bí mật đó để đe dọa Haydrich; còn chính bản thân Sykelgruber cũng có chuyện không ổn với các cụ tổ của mình…), Canaris là một tên Đức quốc xã đặc biệt hăng hái. Năm 1919, hắn trở thành nhân viên tình báo Đức, hay nói đúng hơn là của ngành phản gián. Trong vai trò này hắn đã tham gia vào các vụ sát hại những lãnh tụ của đảng “Spartac” (Đảng Cộng sản) Đức như Carl Libknecht “khi ông ta đang tìm cách chạy trốn” và Roza Lucxamburg trên đường đến nhà tù. Hắn cung cấp hộ chiếu cho bọn giết người và giúp chúng lẩn trốn.
Sau đó hắn tiến hành các cuộc đàm phán về việc đóng tại Tây Ban Nha, Hà Lan và Nhật Bản tàu ngầm cho nước Đức. Theo hiệp ước Versaille, Đức bị cấm sở hữu hạm đội tàu ngầm.
Năm 1920, Canaris tham gia vào vụ “đảo chính Kappov” chống nền quân chủ và nhằm thiết lập chế độ độc tài của giới chóp bu quân sự nhưng không thành công. Sau đó có thời gian hắn buộc phải từ nhiệm và chỉ trở lại giữ chức chỉ huy căn cứ hải quân ở Swinemunde khi Hitler nắm quyền. Nhưng hắn không ngồi lâu ở vị trí đó. Cuối năm 1934, đại úy cấp I Patsyg bị miễn chức chỉ huy ban quân báo. Còn ngày 5 tháng 1 năm 1935 phó đô đốc thủy sư Vilhelm Canaris được chỉ định vào vị trí đó. Cơ quan tình báo quân sự Đức – gọi là Abver – chia làm ba bộ phận. Abver-I chuyên thu thập thông tin từ cơ quan tình báo Đức và nước ngoài, Abver-II chuyên hoạt động phá hoại ngầm, còn Abver-III là bộ phận phản gián trên lãnh thổ Đức.
Hitler cảm thấy mình vẫn chưa vững chân lắm và buộc phải nhượng bộ các tướng, nên trong giai đoạn đầu dành cho các Abver quyền độc lập hoàn toàn. Hitler triệu Canaris lên, thảo luận rất lâu với hắn và trao trách nhiệm xây dựng Abver thành một tổ chức hùng mạnh không thua kém bất kì cơ quan tình báo của các quốc gia phương Tây nào.
Một trong các hoạt động lớn nhất của Canaris ở giai đoạn đầu là vụ ủng hộ tướng Franco phát động cuộc nổi loạn của phe phát xít chống chính phủ nước cộng hòa.
Quan hệ hợp tác bí mật của Canaris với gã thiếu tá trẻ Franco khởi đầu từ năm 1916, khi Canaris đang tổ chức các cuộc bạo loạn của những bộ tộc Ả Rập. Sau hai mươi năm đôi bạn cũ gặp lại nhau. Biết tin về cuộc nổi loạn, Canaris gác những việc khác sang một bên và dồn toàn lực để vận động giới quyền lực Đức giúp đỡ Franco tối đa. Hitler và Hering nhanh chóng hiểu ra những mối lợi mà chúng có thể kiếm được từ thắng lợi của Franco là: tiêu diệt nước Cộng hòa Tây Ban Nha, thiết lập chế độ độc tài có liên hệ tinh thần gần gũi với Đức, sở hữu những bàn đạp quân sự quan trọng nhất từ Tây Nam châu Âu.
Cuối tháng 7 năm 1936 trong cuộc họp có Hitler tham gia, Hering, bộ trưởng quốc phòng, nguyên soái Bloomberg và thủy sư đô đốc Canaris đã cùng thông qua quyết định mang tính nguyên tắc về việc ủng hộ Franco. Sau đó Canaris bay sang Italia. Tại đó, với sự hỗ trợ của viên tướng đồng nghiệp Roatt, Canaris đã thuyết phục được cả Mussolini giúp đỡ tướng Franco. Trở lại Đức, Canaris bắt đầu tổ chức hoạt động cung cấp vũ khí và đạn dược cho quân Franco. “Con cáo quỷ quyệt” Canaris cũng thu xếp việc cung cấp vũ khí cho cả quân cộng hòa mà thực ra là những tên vô dụng, đào ngũ hay đặc biệt đã tha hóa trong thời kì Thế chiến I. Để thực hiện việc đó Canaris xây dựng các công ty cung cấp tại Tiệp Khắc, Phần Lan, Ba Lan và Hà Lan.
Canaris nhiều lần bay sang Tây Ban Nha gặp gỡ với Franco, phối hợp việc tham gia hoạt động chiến đấu của quân đoàn không quân “Condor” (Đức) và giải quyết những vấn đề khác trong tương trợ chiến đấu, cùng với Franco đi thanh sát các mặt trận. Hắn đồng thời chỉ đạo việc đưa chuyên viên quân sự vào Tây Ban Nha, một công tác được thực hiện hết sức bí mật (người ta biết được có những sĩ quan Đức đã bị kết án tử hình do thông báo cho gia đình về việc họ được điều đi đâu). Toàn bộ ba mươi hai tháng chiến tranh Tây Ban Nha, Canaris luôn ở “tiền tiêu”. Chính hắn đã biết thuyết phục Franco tán thành công ước chống Quốc tế Cộng sản. Sự hỗ trợ của nước Đức dành cho chế độ Franco ước tính khoảng năm tỉ mark.
Chiến tranh vẫn đang tiếp diễn ở Tây Ban Nha khi Hitler nghĩ tới việc thôn tính nước Áo. Trong chiến dịch này, Abver và đích thân Canaris đóng vai trò không kém phần quan trọng. Vấn đề ở chỗ là trong thời gian này nước Đức gần như không sẵn sàng cho một cuộc chiến tranh, mà thực hiện vụ “sáp nhập” lại là điều Hitler hết sức mong muốn. Do vậy Canaris được ủy thác việc tiến hành các biện pháp bóp méo, xuyên tạc thông tin nhằm làm giới lãnh đạo Áo hoảng sợ và buộc phải chấp nhận các điều kiện của Đức. Không hề có các cuộc di chuyển và tập trung quân Đức trên biên giới nước Áo khi đó, nhưng Canaris đã biết cách tung tin vịt về các cuộc tập dượt quân sự và khả năng chiến đấu cao của quân đội Đức. Tin đồn đã gây ảnh hưởng quyết định đến động thái của chính phủ Áo và dư luận quốc tế. Tất cả đều tin rằng tiềm lực quân sự của Đức thực sự lớn. Nước Áo buông xuôi, còn tiếp đó đã là Hiệp ước Munchen.
Nhưng đây lại là thời điểm Canaris bắt đầu cảm thấy nghi ngờ tính chất đúng đắn trong đường lối chiến tranh của Hitler. Hắn ta, cũng như những bạn bè của hắn trong giới tướng lĩnh, hoàn toàn không theo chủ nghĩa hòa bình. Đơn giản là chúng nhận thấy nước Đức chưa sẵn sàng cho chiến tranh xâm lược, và trong tương lai xa các kế hoạch của Hitler nhất định phá sản. Thực sự chưa xảy ra một vụ phản loạn nhưng những kẻ mưu loạn thì đã tồn tại và chuẩn bị để thực hiện nó. Từ thời gian này bắt đầu con đường sáu năm Canaris tham gia vào những vụ âm mưu chống Hitler khiến rốt cục đã bị bắt và chết. Trong các hoạt động theo hướng đó có việc phái Evald Kleist sang London vào năm 1938 nhằm tiến hành các cuộc mật đàm. Người này bay sang Anh một cách công khai trên chiếc máy bay U-52, và điều này không thể che mắt Gestapo. Tuy nhiên khi đó các cuộc mật đàm là không cần thiết bởi vì người Anh đã tự đến với Hitler và thực chất là bật đèn xanh cho Thế chiến II.
Ngay trước Thế chiến II Canaris ở vào một tình cảnh bất thường: một mặt hắn là lãnh đạo cơ quan tình báo quân sự của quốc gia gây chiến và đã chỉ đạo hoạt động của cơ quan này đạt nhiều thành tích, mặt khác lại đồng lõa và giúp đỡ kẻ thù. Nghịch lí ở chỗ Canaris tuy chống Hitler nhưng lại tận tụy làm việc, ra sức hoàn thiện cơ cấu của Abver, gửi ra nước ngoài và tuyển mộ ở đó nhiều cơ sở tình báo gián điệp. Tổ chức của Canaris mặc dù vậy không đông đảo bằng Gestapo, toàn bộ số lượng thành viên cho đến năm 1943 chỉ có ba mươi nghìn người, trong đó có tám nghìn sĩ quan.
Canaris đã đặt từ trước chiến tranh những trung tâm tình báo chính của mình ở thủ đô các nước trung lập như: Madrid, Liabon, Bern, Ancara, Stockholm và cả ở Budapest. Xuất phát bởi lí do là các thành phố này chưa chắc đã bị chiếm đóng trong tiến trình chiến tranh bởi phía này hay phía kia nên các thương nhân, nhà ngoại giao, công chức và phóng viên là những gián điệp trá hình có thể tự do đến đó. Những trung tâm tình báo tạm thời được hắn tổ chức ở Brussel, Varsava, Sofia, Bucarest, Gaaga và Paris, là những thành phố trong trường hợp chiến tranh có thể trở thành các thủ đô thù địch, còn sau đó sẽ bị chiếm đóng. Do vậy hắn xây dựng tại đó những nhóm tình báo tác chiến trong trường hợp quân Đức tấn công xâm nhập. Những nhóm tương tự được hắn xây dựng tại các thủ đô vùng Baltich. Và còn một Trung tâm quan trọng nữa mà gã đô đốc năng nổ đã tổ chức ở Vatican, thành phố-quốc gia có đại diện tại nhiều quốc gia trên thế giới.
Nước Đức đã kí các hiệp ước về phối hợp hoạt động quân báo với các quốc gia vùng Baltich. Những công dân Baltich theo lệnh của bọn Đức đã cài gián điệp của Canaris vào các cơ quan tình báo ở Caunas, Riga và Tallin. Tại các thành phố này và ở Gaaga cơ quan của Canaris hàng ngày nhận được báo cáo về hoạt động của tình báo Anh.
Là người đứng đầu cơ quan tình báo quân sự, Canaris khi đó cũng là phó chỉ huy thứ nhất của tướng Katel – chỉ huy Bộ tổng tham mưu các Lực lượng vũ trang Đức, do đó việc soạn vạch tất cả các kế hoạch xâm lược của Hitler đều diễn ra với sự trực tiếp tham gia của hắn.
Trong giai đoạn “cuộc chiến tranh kì quặc” (tháng 9-1939 – tháng 5-1940) các gián điệp của Abver đã thu thập được thông tin chi tiết về tình hình ở hậu phương của quân đội Đồng minh, tình trạng cầu cống, đường sá, hệ thống phòng vệ. Diễn ra cuộc chiến tranh gián điệp và phản gián, cơ quan chuyên trách của Abver đã khám phá và vô hiệu hóa nhiều điệp viên của phe Đồng minh. Abver còn có nhiệm vụ đánh cắp quân phục đặc chủng từ các kho quân sự của Bỉ và Hà Lan. Những thứ này cần để làm phục trang cho lính chiến tiền tiêu Đức khi cần bất ngờ chiếm lĩnh cầu qua sông Maas và Mozel. Và khi “cuộc chiến tranh kì quặc” kết thúc, quân Đức tiến vào Bỉ và Hà Lan thì những cây cầu này đã bị những “kẻ mặc quân phục quân Đồng minh” chiếm giữ và chờ quân đội Đức tiến vào. Nhiều cuộc phá hoại đã phá hủy toàn bộ hệ thống phòng ngự của quân Đồng minh, hệ thống tiếp tế và đường thông tin liên lạc.
Chiến dịch chiếm Na Uy của quân Đức vào tháng 4 năm 1940 là một trong những hoạt động quan trọng nhất giai đoạn đầu chiến tranh. Thừa lệnh quốc trưởng, thông qua cơ quan tình báo của mình, Canaris thu thập tất cả những số liệu cần thiết để tiến hành thành công chiến dịch này. Nhưng mặt khác, qua người của mình hắn cũng cảnh báo cả người Anh lẫn người Na Uy. Hiển nhiên là hắn không hề mong quân Đức thất bại nhưng cho rằng sự xuất hiện của hạm đội Anh ở bờ biển Na Uy sẽ buộc Hitler phải từ bỏ ý định của mình. Tuy nhiên khi cần hành động, Canaris đã thực hiện nghiêm chỉnh nhiệm vụ trực tiếp của mình. Chính Abver đã điều tàu Đức đến Oslo và chỉ đạo hoạt động của các tùy viên quân sự Đức trong phối hợp với các sĩ quan nội ứng Na Uy chuẩn bị bảo vệ sứ quán Đức. Chúng chuẩn bị điều kiện cho không quân nhảy dù chiếm Oslo nếu hạm đội Đức không hoàn thành nhiệm vụ. Không phải ngẫu nhiên mà sau các sự kiện ở Na Uy, Canaris từ phó đô đốc được thăng lên đô đốc.
Khi Hitler chỉ định chính xác ngày tháng tấn công sang phía Tây là mùng 10 tháng 5 năm 1940, Canaris lại một lần nữa quyết định báo trước cho quân Đồng minh. Hắn phái viên sĩ quan Joseph Muller của mình đến Rome và báo chính xác ngày tháng đó cho một trong số các nhà cựu ngoại giao của Vatican. Đại sứ Bỉ đã kịp thời thông báo vào ngày 1 tháng 5 cho chính phủ nước mình. Nhưng như chuyện vẫn thường xảy ra, thông tin bị bỏ qua, và cuộc tấn công của quân Đức diễn ra vào đúng ngày ấn định.
Nhưng với lịch sử điều này vẫn là bài toán chưa rõ lời giải. Vấn đề là ở chỗ Canaris thông báo cả cho Thụy Sĩ về ngày tháng dự định tấn công của quân Đức. Không hiểu đây có phải là mánh khóe để quân Đồng minh chờ đợi đòn đánh từ cả hai sườn và phải phân tán lực lượng của mình?
Sau khi Pháp đầu hàng, Hitler ra lệnh chuẩn bị kế hoạch đổ bộ vào Anh mang tên “Sư tử biển”. Nhưng sau hai tháng hắn ta đã thực sự không quan tâm đến ý tưởng đó nữa. Những báo cáo của Canaris phóng đại nhiều lần khả năng phòng thủ của Anh đã đặc biệt tạo điều kiện để quốc trưởng đi đến quyết định như vậy.
Tình báo Anh cảnh báo Đồng minh của mình: “Đừng làm hại Canaris. Sự bại lộ của ông ta sẽ hết sức nghiêm trọng và ảnh hưởng đến chúng ta”.
Nhưng nếu đánh giá tình hình một cách sâu xa cặn kẽ hơn thì điều đó căn bản cũng không do Canaris. Hitler đã xây dựng những kế hoạch khác – vì phải để mắt sang phía Đông, nơi đối thủ chính của nước Đức phát xít là Liên Xô đang bí mật xây dựng phòng tuyến. Các cuộc đàm phán về cuộc đổ bộ trước mắt xuống nước Anh vẫn tiếp diễn nhưng thực ra chỉ là mánh khóe để che giấu ý định thật của Hitler.
Canaris và Abver do hắn lãnh đạo nhận được lệnh tăng cường tối đa hoạt động tình báo và phá hoại chống Liên Xô. Những mệnh lệnh cũng được ban xuống các cơ quan ngoại biên và đơn vị quân đội.
Những chứng cứ đáng quan tâm về vấn đề này được phó ban phá hoại của Abver là Stolse khai trước tòa án Nuremberg như sau: “Mệnh lệnh chỉ rõ ràng nhằm mục đích giáng một đòn chớp nhoáng chống Liên Xô, Abver-II trong khi tiến hành hoạt động phá hoại phải lệnh cho các gián điệp của mình kích động thù hận dân tộc giữa các dân tộc Liên Xô. Đặc biệt riêng tôi đã truyền chỉ thị cho các điệp viên Đức và thủ lĩnh Quốc xã Ucraina Melnik (có biệt danh là “Lãnh sự I”) và Bander về việc tổ chức ngay lập tức sau khi Đức tiến công vào Liên Xô những hoạt động khiêu khích tại Ucraina với mục đích phá hoại hậu cứ gần nhất của quân đội Xô Viết, đồng thời thuyết phục dư luận quốc tế về sự tan rã đang diễn ra ở hậu phương Xô Viết”.
Tình báo quân sự Đức do Canaris lãnh đạo đã thu thập được khối lượng thông tin hết sức lớn về Liên Xô và các lực lượng vũ trang của quốc gia này. Kết quả là đầu năm 1941 cơ quan của Canaris đã chuẩn bị và ban hành những thông báo mật của Bộ tổng tham mưu Đức về “Tình hình các lực lượng vũ trang Liên Xô đến ngày 1 tháng 1 năm 1941” với đánh giá về dự trữ của cải vật chất và người của đất nước Xô Viết cũng như tinh thần chiến đấu và tình trạng đạo đức của Hồng quân.
Từ trước chiến tranh, các nhân viên chuyên trách việc tuyển mộ của bọn phát xít đã lùng sục tìm kiếm đám Bạch vệ lưu vong trung thành khắp châu Âu. Giữa tháng 6 năm 1941 diễn ra hoạt động rải gián điệp ồ ạt. Chỉ trong bốn ngày, từ 18 đến 21 tháng 6, và chỉ theo hướng Minsk đã có hàng chục nhóm bị bắt và vô hiệu hóa hoạt động. Đêm rạng sáng ngày 22 tháng 6 Abver lại tung qua biên giới bằng đường bộ và hàng không một số lượng đáng kể những nhóm phá hoại nhỏ ăn mặc dân sự và giả trang Hồng quân. Quân phát xít đã đạt được một số thành tích như: phá hoại thông tin liên lạc ở một vài khu vực riêng rẽ, xây dựng được những điểm đổ bộ quân, lật tàu. Tại một số địa phương lan truyền các tin đồn thất thiệt. Tại Moskva và các vùng ngoại ô Moskva có một vài nhóm gián điệp được ném vào với nhiệm vụ tổ chức phá hoại hàng loạt, làm nổ tung tuyến đường cao tốc Uglitr – Moskva. Phần lớn bọn phá hoại đã bị bắt, và ổ gián điệp cần được bổ sung.
Ervin Stolse đề nghị Canaris chú ý đến những tù binh chiến tranh và tuyển mộ gián điệp ở các trại tập trung. Tuy nhiên ý đồ này thất bại. Hitler hết sức tức giận đã viết trong huấn lệnh ngày 18 tháng 12 năm 1941: “Bọn tù binh, đặc biệt là thế hệ trẻ, trung thành tuyệt đối với bolsevich. Chúng có khả năng làm bất cứ chuyện gì.” Khi đó Abver liền từ bỏ các biện pháp tuyển mộ “nhân đạo”. Tù binh bị đặt trước hai sự lựa chọn: hoặc chết dưới làn đạn, đói khát và bệnh tật, hoặc đồng ý làm việc cho tình báo phát xít. Bọn phát xít đặc biệt chú trọng đến việc kích động chủ nghĩa dân tộc, đặc biệt đối với người Ucraina, người Hồi giáo và Gruzia.
Những kẻ đồng ý hợp tác sẽ được kiểm tra kĩ lưỡng và gửi vào các trường huấn luyện hoạt động tình báo. Nhưng thực tế đã chứng tỏ rằng khi đặt hi vọng tìm kiếm tay chân trong các tù binh, Canaris đã tính nhầm. Hơn nửa số gián điệp phá hoại được tung vào hậu phương Xô Viết đã ra đầu thú. Cả âm mưu lôi kéo bọn tội phạm vào hoạt động tình báo (để tung sang bên kia đường biên mặt trận) cũng phá sản vì bọn này chỉ thuận làm việc cho người Đức ở hậu phương của chúng trong vai trò lính tiễu phạt và cảnh binh, còn hoạt động ở hậu phương Xô Viết thì không.
Gặp khó khăn trong việc tuyển mộ những tên phá hoại, cơ quan tình báo quyết định thực hiện một kế hoạch kì quặc: dùng trẻ em cho hoạt động này, chủ yếu là những trẻ em trong các trại trẻ mồ côi vô thừa nhận đưa về Đức. Trường huấn luyện trẻ em phá hoại nằm ở Hamfurt, gần Kasseli. Những cậu bé thích hợp được đào tạo như những “đứa con của nước Đại Đức” sẽ được nuôi dưỡng và phát triển những bản năng khác bình thường. Đêm 28 rạng ngày 29 tháng 8 và 1 tháng 9 năm 1943 có những nhóm trẻ em tầm tuổi mười ba đến mười lăm được thả dù xuống hậu phương của Hồng quân từ Kaliningrad cho đến Kharcov. Chúng được trang bị mìn ngụy trang thành những cục than đá để có thể ném vào toa than xe lửa chạy hơi nước hay vào các kho chứa than. Nhưng cả chiến dịch này cũng thất bại. Tất cả lũ trẻ mang chất nổ nhảy dù xuống đều đến đầu thú tại các đơn vị quân đội, công an, các cơ quan an ninh quốc gia.
Khi chiến tranh nổ ra, Canaris ở mặt trận phía Đông và cùng với quân đội tấn công đến tận sát Moskva. Chỉ tại đó hắn ta mới thấy những hiểu biết của giới lãnh đạo nước Đức và của chính bản thân mình về sức mạnh và dự trữ của Hồng quân là sai lầm đến mức độ nào. Hắn đã cảnh báo cấp lãnh đạo tối cao rằng quân Đức sẽ không bao giờ có thể chiếm được Moskva. Hắn cũng có lời báo trước tương tự vào năm sau trong mùa khởi đầu cuộc tấn công Kavkaz. Hitler bỏ qua ý kiến đó nhưng bắt đầu “để mắt đến Canaris”.
Abver cũng tìm cách triển khai mạng lưới rộng khắp mặt trận phía Đông. Một trong các hoạt động đó là chiến dịch mà cơ quan tình báo Liên Xô gọi theo mã danh là “Tu viện”. Chiến dịch này do người đứng đầu Cục 4 là tướng Sudoplatov chỉ huy.
Bản chất của chiến dịch này nói gọn là: điệp viên Liên Xô “Geine”, tức Alekxandr Demianov, về sau này là thành viên của chiến dịch “Berezino” đã “chạy” sang phía quân Đức vào tháng 2 năm 1942, được “tuyển mộ” và ném trở về hậu phương của Hồng quân. Có huyền thoại kể rằng anh đã lọt vào dưới trướng của tướng Saposnikov, và “moi” được những thông tin mới, “giá trị” nhất. Không chỉ Abver, mà cả Bộ chỉ huy quân sự phát xít Đức đều tin chắc rằng chính chúng đã “cài” “Geine” vào vị trí này. Về sau người ta còn biết rằng cấp chỉ huy tối cao trong quân đội Đức không thông qua quyết định khi chưa nhận được báo cáo của “Geine”. Anh được đánh giá gần như là nguồn cung cấp thông tin trực tiếp duy nhất từ Moskva. Cơ quan tình báo Anh cũng biết Abver của Đức có một gián điệp hết sức giá trị ở Moskva. Năm 1943 thủ tướng Anh Churchill thậm chí còn thông báo cho Stalin rằng: “Trong Bộ tổng tham mưu Hồng quân có một gián điệp của Đức”. Chiến dịch “Tu viện” đóng vai trò có thể nói là hết sức to lớn, đặc biệt trong hoạt động chuẩn bị cho cuộc phản công của quân Xô Viết ở ngoại ô Stalingrad, cũng như trong trận Cursk. Ở trận phản công ngoại ô Stalingrad quân Đức bị thuyết phục rằng Hồng quân đang chuẩn bị đánh ngoại ô Rjev (Thậm chí tướng K. Jukov đã di chuyển đến đó), còn trong trận Cursk – ý đồ phòng ngự tích cực và tiếp đó là kế hoạch phản công quyết liệt đã được giữ kín.
Không có gì lạ là sự thất bại của Abver đã khiến Hitler không hài lòng. Có thể do cố tình hoặc do sự lười biếng của đám gián điệp mà Canaris thất bại ở khắp các mặt trận: thường thường thông tin của hắn không khớp với thực tế. Bên cạnh đó, Gestapo bắt đầu nghi ngờ Canaris. Một vài cộng sự của hắn bị bãi miễn chức vụ, bị bắt và kết tội quan hệ bí mật với người Anh. Tháng 1 năm 1944 Gestapo tiến hành thanh trừng những người Đức bất mãn với chế độ Hitler. Trong số họ có bạn bè và những kẻ cùng tư tưởng với Canaris. Tình hình khiến vị trí của hắn thực sự lung lay. Nhưng bão tố thực sự nổ ra sau bản báo cáo của Canaris gửi Hitler về tình hình mặt trận Nga tháng 2 năm 1944. Khi nghe bản báo cáo, quốc trưởng ban đầu nhìn chòng chọc Canaris, sau đó đột ngột đập bàn, nhảy xổ vào viên đô đốc và túm lấy cổ áo hắn:
— Ông làm sao vậy, thử chứng minh rằng tôi đã bại trận à?! – như nổi cơn điên, Hitler gầm lên.
Canaris lập tức bị truất chức. Mọi chuyện cũng chấm hết đối với Abver. Cơ quan tình báo quân sự bị chuyển vào tay Himmler. Tên này từ đó trở đi lãnh đạo cơ quan tình báo duy nhất của nước Đức phát xít. Canaris bị chỉ định một chức vụ thứ yếu nào đó trong quân đội ở ban quân nhu. Bạn bè thân thiết khuyên hắn cùng với gia đình chạy sang Tây Ban Nha nương náu tướng Franco, nhưng hắn không nghe.
Tháng 6 năm 1944 xảy ra vụ mưu sát Hitler và âm mưu đảo chính nhà nước. Canaris không tham gia nhưng có biết chuyện. Khi biết việc không thành, Canaris lập tức đến nhiệm sở và kịp thời kí tên dưới bức điện gửi quốc trưởng chúc mừng vụ thoát chết may mắn. Không hề tìm cách ẩn trốn, hắn tiếp tục làm việc ở cơ quan quản lí kinh tế. Hai ngày sau vụ mưu sát, Canaris bị đích thân người kế nhiệm của mình là Sellenberg bắt.
Gestapo tiến hành cuộc điều tra hết sức kĩ lưỡng – bởi vì không đơn giản khi xử tử hình một người nổi tiếng, bạn của tướng Franco, hơn nữa sự tham gia của hắn vào vụ mưu loạn không có ai xác nhận. Sau đó chúng tìm được một số chứng cớ riêng rẽ về các cuộc tiếp xúc với người Anh. Canaris bị chuyển đến pháo đài Flossenburg, bị cùm chân suốt ngày đêm.
Ngày 9 tháng 4 năm 1945, đúng một tháng trước khi kết thúc chiến tranh, Canaris bị xử tử cùng với năm tù nhân khác. Một đao phủ SS khai trước tòa rằng Canaris bị treo cổ bằng một vòng thép và chết trong đau đớn chỉ sau nửa giờ. Thi thể của các tù nhân bị thiêu trên đống lửa trong sân nhà tù. Cũng có tin đồn rằng Canaris vẫn còn sống nhưng điều này bị phủ nhận.
Nhà nghiên cứu người Anh Cookridg viết về Canaris như sau: “Hắn ta đã sát hại một cách tàn bạo hàng trăm con người, là một kẻ đầy âm mưu và thủ đoạn”; còn Corte Riss, tác giả cuốn sách “Tình báo tổng hợp” gọi Canaris là “kẻ giảo hoạt, quỷ quyệt, khéo xoay xở và là tên phiêu lưu vô liêm sỉ”. Và người ta còn nói rằng nếu hắn không bị Hitler treo cổ thì tòa án Nuremberg cũng sẽ phải làm việc này.
