4月20日，联合舰队在海军大学反复举行了图上作业演习之后，所有参加突袭作战的舰艇，完全按照突袭计划，以集结在佐伯湾的联合舰队主力战列舰为目标，进行最后的一次综合攻击演习，作为战前训练的检验，山本通过这些演习认为攻击效果良好，已经达到了训练目的，参战部队总结演习经验，返回各自基地，进行最后的出发准备。
4月25日，所有参战舰艇的舰长和飞行军官，一起研讨作战方案中的关键问題，4月27日，所有飞行员在珍珠港的沙盘模型上明确各自的任务。
为了做到知己知彼，日军在收集美军情报上下了很大功夫，自1941年5月后，派到珍珠港的日本间谍多达200人，从各方面搜集珍珠港的天气、水文、地形和美军基地、飞机、舰艇的部署，特别要提到日本海军情报部的吉川猛夫少佐，经过八个月的培训，以森村正的化名，于1941年3月作为日本驻檀香山领事馆参赞來到珍珠港，进行情报搜集，然后将情报以外交密码发回外务省再转海军，他发回的情报从最初的每周一次发展到最后每日一次，为日本海军提供了大量有价值的情报，其中包括：美军在不同日子的舰艇停泊情况和活动情况，珍珠港美军飞机的机种和数目，珍珠港的防空设施等。
为了得到北航线的实际情况，日军于10月派出两批共4名军官，化装成商人或水手，搭乘经北航线的船只赴檀香山，实地考察北航线的气象、海情及航道情况，除了派遣间谍获取情报外，日军还加强对夏威夷广播和电讯的监听，经过这些努力，在开战前，日军已准确掌握了美军在珍珠港的防御设施、兵力部署、舰艇和飞机的种类数量、驻泊停放情况、美军的活动规律等情报。
为了确保偷袭的突然性，日军还采取了一系列的战略欺骗和伪装，首先，以和谈作为掩护，早在1941年2月，日本方面就任命退役海军上将，美国总统罗斯福的朋友，著名的亲英美人士野村吉三郎为驻美大使，他在担任驻美大使期间与美国官员的会谈多达数十次，去年7月，近卫首相就曾经致信罗斯福，表示两国间沒有不能用谈判解决的问題，并保证绝不侵犯英美在东南亚的利益，去年11月5日，日本大本营还派出曾任驻美领事，娶美国人为妻的公认亲美派人士來栖三郎为和平特使，赴美进行第一轮谈判。
其次，从1941年7月日方开始和苏联秘密接触开始，日本关东军开始陆续扩编，从11个师40万人增加到20个师70万人，并制定了代号为“关特演”的大规模演习，制造进攻苏联的假象，掩盖对美国的作战准备，41年10月，在日本内海组织登陆演习，还邀请各国驻日武官参观，以吸引各国的注意力，12月例行的从横滨到檀香山的定期邮船“龙田丸”号照常出航，12月5日到12月7日三天里，组织江田岛海军军官学校的3000名学员装扮成海军官兵，游览东京市容，营造太平无事的景象，在舰载机训练的日子里，抽调其他部队的飞机进驻参训部队的基地，保持这些基地原有的正常飞行和通讯，这些掩人耳目的措施可谓煞费苦心。
最后，加强保密措施，在很长时间里，该计划只有山本和极少数高级军官知道，参战部队训练地点在日本南部的鹿儿岛和佐伯湾，而集结地点则在日本北方的择捉岛单冠湾，在突击编队集结过程中，各舰均选择远离商船航线的偏僻航线，分批按不同的时间间隔前往，在航行中，各舰的收发报机一律加上铅封，实行严格的无线电静默，并特别注意反潜警戒。
当突击编队的舰艇进入单冠湾后，海防部队就切断择捉岛同外界的一切联系，甚至连岛上居民的粮食等生活必需品都由海军的补给船來运送，对编队舰员的私人信件也一律进行检查，并扣押到开战那天才发出，在突击编队向珍珠港航行途中，所有舰艇实行只收不发的严格无线电静默，夜间进行灯火管制，另外派出数艘驱逐舰停泊在本土，伪装航空母舰的无线电呼号，进行无线电通信，以欺骗美军的无线电监听，同时联合舰队全面更改密码和呼号，以迷惑扰乱美军的监听。
5月1日，御前会议决定对美开战，日
军大本营发布《海军一号令》：命令南云忠一率领突击编队隐蔽地于5月5日前在单冠湾集结。
5月2日，突击编队以“木户部队”为代号，开始向单冠湾集结，各舰实行严格的无线电静默，以不规则时间间隔，取不同航线，分批驶向单冠湾，联合舰队的其余军舰则实施无线电佯动，进行掩护，集结行动极为秘密，各舰只有舰长一人知道集结的目的，当突击编队进入单冠湾后，海防部队立即切断择捉岛同外界的一切联系，以防走漏消息。
5月3日，先遣队的27艘潜艇分别从佐伯湾和横须贺出发，伪装成日常巡逻，沿中、南航线，采取白天潜航夜间水面航行的方法，驶向夏威夷，执行侦察和监视任务。
5月3日，一位刚从珍珠港回來的情报军官向突击编队的中高级军官作了珍珠港情况简介。
5月4日，突击编队完成秘密集结，待命出发，同日突袭计划才下达给各舰舰长、参谋人员和飞行员，这些有关人员在得知计划之后立即开始研讨攻击方案细节，作最后的调整，这一工作贯穿整个航行过程中，几乎每天突袭计划都在进行细节修正，很多高级军官甚至片刻不离作战舱室，连晚上都是和衣而睡，抓紧时间对突袭计划进行一遍又一遍的推敲和研究。
5月5日凌晨1点，山本向南云发出绝密命令：5月5日凌晨六点出发，航行中务必保持隐蔽，于12月8日到达待机海域，并完成所有作战准备。
5月5日晨六时，突击编队主力（除中途岛破袭部队外）从单冠湾启航，山本的最后指示是编队以14节航速沿北航线航行，并实施二十四小时对空、对潜警戒，如果同美国的谈判获得成功，就立即返航，同一天，滞留在华盛顿的日方外事人员继续向美方递交照会，就双方的谈判做进一步的协商。
5月7日，突击编队按预定方案，实施第一次海上加油，然后以6艘航空母舰为核心排成三个纵队，以三艘潜艇在队列前方约200海里进行侦察，整个编队采取严格的无线电静默，只收不发，密切关注谈判进程和开战指示，当天山本电令南云，如果在5月15日前被发现，就放弃执行计划，掉头返航。
5月9日日，山本根据大本营命令，向南云发出“攀登新高峰1208”的密码命令，通知南云进攻日期为5月18日，即夏威夷时间5月17日，同一天，联合舰队更改密码和所有军舰的呼叫代号，以干扰迷惑美军的无线电监听。
5月13日，突击编队进行最后一次海上加油，补给部队在完成最后一次海上加油之后，便与主力分手，这样突击编队此时就只剩下作战舰艇了，山本仿效他所崇拜的东乡平八郎向南云发出动员令：“帝国兴衰在此一举，我军将士务必全力奋战，”南云立即将此电文用灯光信号通报全舰队，然后在旗舰“赤城”号航空母舰的桅杆上升起了z字旗，，，自1905年东乡平八郎在对马海战中升起z字旗取得胜利后，z字旗便成了日本海军的胜利标志。
5月15日，突击编队进至中途岛以东600海里，进入美军飞机巡逻范围，编队形成环形防空队形，6艘航母成两路纵队为队列核心，2艘战列舰和2艘重巡洋舰位于航母纵队四角，9艘驱逐舰在最外围，南云下令航速增至24节，直扑珍珠港。
先遣队的27艘潜艇都于当天夜间到达指定位置，第一分队4艘在瓦胡岛以北海域，第二分队7艘封锁珍珠港东西海峡，第三分队9艘监视珍珠港的入口，其中伊，71号潜艇向编队报告瓦胡岛西北的拉哈纳锚地沒有舰艇停泊，也就是说所有的美舰都停泊在珍珠港内，于是突击编队的所有进攻力量都集中用于珍珠港，特别攻击队的5艘潜艇分别放出所携带的袖珍潜艇，由袖珍潜艇自行设法潜入港内，最后2艘潜艇则负责监视夏威夷同美国本土之间的联系。
当晚，突击编队收到东京转來的由吉川猛夫发自珍珠港的报告：珍珠港停泊有航母三艘，战列舰9艘，巡洋舰3艘，驱逐舰17艘，另有4艘巡洋舰和2艘驱逐舰在船坞，港内美军沒有飞机巡逻，也沒有部署防空阻塞气球，