约翰二世与皮洛斯卡的联姻不仅在当时缔结了两国之好，解决了双方最迫切的需要，而且，对于拜占庭的地缘政治的变化、帝国的皇后选择以及科穆宁王朝内政的影响也颇为深远。

拜占庭与匈牙利的联姻帮助两国成功抵挡了诺曼人的攻势，暂时缓解了帝国西部的压力，因而约翰二世继位后，其对外政策的主要兴趣集中在小亚细亚，而对西欧诸多国家则采取防御性措施。

不过，匈牙利、塞尔维亚等国并非安居一隅、毫无作为，而是企图逐步蚕食帝国的领土。面对这几个西方国家，约翰二世也采取了不同的策略。凭借着与匈牙利的姻亲关系，约翰二世拥有了插手匈牙利内政的合理借口，而他显然没有放弃这一有利条件。

匈牙利国王拉迪斯拉夫一世去世之后，其侄子科洛曼以及阿尔莫斯陷入了王位之争，最终科洛曼获胜。然而，阿尔莫斯不甘心于失败，在之后的几年中不断寻找盟友，包括神圣罗马帝国、波兰、诺曼人等，但始终没有成功。

年阿尔莫斯及其子、未来的贝拉二世（-年在位）均被科洛曼俘虏，并被刺瞎双眼。科洛曼去世后，阿尔莫斯害怕遭到斯蒂芬二世（-年在位）的毒手，最终逃到了拜占庭。

此前，在年败于科洛曼时，阿尔莫斯曾前往耶路撒冷朝圣，途经拜占庭时受到过约翰及皮洛斯卡的接待，或许是这对夫妻的友好态度让阿尔莫斯留下了深刻的印象。而不负他所望，这次他也受到了热情的对待。金纳莫斯记载：“阿尔莫斯来到皇帝的宫廷，他（皇帝）态度亲切，热情地款待了他。”

约翰二世对阿尔莫斯的态度可能是出于他对妻子皮洛斯卡的喜爱，但是另一件事表明原因远不止如此。科洛曼的前皇后、基辅的尤菲米娅因涉嫌通奸而被逐出匈牙利，作为她的儿子，鲍里斯·卡拉马诺斯被认为与王室毫无血缘关系，科洛曼也否认自己是他的父亲。

但当鲍里斯来到君士坦丁堡时，“他（约翰二世）给了他足够的荣誉，并让他娶了一个自己家族的女性成员”。不过，最终鲍里斯还是去了波兰，他认为约翰二世正为东方的事务而焦头烂额，定无法顾及自己。从上述事件中可以推测出，约翰二世试图利用流亡在外的王位争夺者搅乱匈牙利内政，让其自顾不暇，暂时不再损害拜占庭的利益。

他的这种做法确实起到了一定的效果，并且吸引了更多的匈牙利王位竞争者的到来，例如贝拉二世的儿子们，未来的拉迪斯拉夫二世（-年在位）和他的兄弟斯蒂芬四世（年在位）也曾来到君士坦丁堡寻求帮助。

当时在位的曼努埃尔一世也给予了支持，让他们与侄子、国王斯蒂芬三世（-年在位）对抗。约翰二世对阿尔莫斯的收留引起了匈牙利国王斯蒂芬二世的忌惮，他向拜占庭派遣使者，要求必须将阿尔莫斯逐出拜占庭的领土，但是遭到了皇帝的拒绝。

当时斯蒂芬二世正陷于尴尬的境地：年或年，他夺取达尔马提亚失败，被迫与威尼斯人签订为期五年的停战协定。因此，约翰二世拒绝遣返阿尔莫斯无疑是在斯蒂芬的头上悬了一把剑。

据费内科·马克所言，这是导致两国战争的最重要原因。年，斯蒂芬二世入侵达尔马提亚，同年7月占领了斯普利特和特罗吉尔。匈牙利的入侵让约翰二世有了名正言顺的理由发动战争。尽管战争初期，匈牙利势如破竹，但拜占庭取得了最后的胜利。金纳莫斯记载了战争的详细经过，匈牙利损失惨重。

年冬季，双方签订了和平协议。年，约翰二世宣布匈牙利战争结束，并在君士坦丁堡举行庆祝典礼。斯蒂芬二世去世之后，阿尔莫斯之子、贝拉二世继位，因其曾受拜占庭的收留之恩，两国关系直至约翰二世去世也一直处于友好状态，在此期间，拜占庭日益加深了对匈牙利的影响。

和对匈牙利的策略不同，对塞尔维亚，约翰二世坚决采取武力手段。11世纪初塞尔维亚被瓦西里二世并入拜占庭帝国，不过前者不甘于成为附属，11世纪中期便开始叛乱，到了11世纪末12世纪初，塞尔维亚第一次摆脱拜占庭的控制。当匈牙利企图吞并帝国的领土时，塞尔维亚开始谋求与匈牙利的联合。

约翰二世时期，塞尔维亚将一位公主嫁给匈牙利的王子，这桩联姻加固了两国的关系，匈牙利对塞尔维亚的独立事业更加支持。二者的联合引起了拜占庭皇帝的不安，尤其是作为附属国的塞尔维亚，其谋求独立的计划触及了约翰二世的底线。

因此面对年塞尔维亚的入侵，约翰二世凭借严酷的手段、绝对优势的兵力彻底将其镇压。为防止塞尔维亚卷土重来，他将其部分城市居民迁移至小亚细亚的尼科米底亚，下令征召青年进入拜占庭军队为帝国冲锋陷阵，甚至还将部分俘虏赐予富人为奴。自此，塞尔维亚基本丧失了威胁。

将战败的民族迁往他地，塞尔维亚并非第一例。瓦西列夫写道：“在对内政策中，拜占庭常用的办法是将帝国的各个民族从一地迁移到另一地；比如，斯拉夫人被迁移至小亚细亚，亚美尼亚人被迁移至巴尔干半岛。”

12世纪初，诺曼人在匈牙利、威尼斯以及拜占庭的联合抗击之下不得不表示臣服，然而到了20年代，诺曼人的势力再度兴起，罗杰二世打败了罗马教宗组织的军队，统一了南意大利和西西里。年圣诞节，罗杰二世在巴勒莫举行加冕仪式，正式成为西西里国王。他的这一举措迅速激化了诺曼人与拜占庭帝国的关系。

当时拜占庭与匈牙利正处于战争的尾声，显然不可能再度联合。而诺曼人的崛起却引起了日耳曼人的警惕，后者在意大利拥有巨大的利益。面对共同的危险，当时的神圣罗马帝国皇帝洛塔尔也有意与拜占庭联合，并以条约的形式来确定。康拉德三世（-年在位）时期，双方又通过联姻的方式对这种联合进行了巩固。

约翰二世去世后，面对强势进攻的诺曼人，曼努埃尔一世延续了其父与神圣罗马帝国联合的政策，成功抵挡了诺曼人的入侵。然而，当第二次十字军东征进行得如火如荼之时，诺曼人却趁机卷土重来。年秋，诺曼人发动了对拜占庭的进攻，很快便夺取了科孚岛等岛屿，并占领了底比斯和科林斯。

不过他们并没有得意太久，神圣罗马帝国皇帝率领的十字军在东方惨败于突厥人之手，不得不踏上归途。途径萨洛尼卡之时，康拉德三世与曼努埃尔进行了会晤，这对姻亲再一次联合，并于年夺回科孚岛，暂时抵挡了诺曼人的进攻。在约翰二世的整个时期，他的外交重点始终是在东部地区，除了突厥和亚美尼亚，他着重