Римлянин за походженням, син Вінігілдо, який, схоже, походив з остготів. Він прийняв понтифікат в часі, коли лангобарди облягли Рим, і тому без згоди візантійського імператора Тіберія II, який, проте, згодом затвердив понтифікат. Коли Тиберій помер, він отримав допомогу від свого наступника Маврикія, щоб придушити безперервні вторгнення лангобардів, і найняв армію у Франції, яку очолював Чільдеберт II. Потім він мав суперечки з єпископами Істрії щодо питання про три розділи, які візантійський суд розглядав як гетеродокс, і вдався до екзарха Смарагдо для покарання цих повстанців. Екзарх погодився, зробив полонених предстоятелем Северусом церкви Оквілеї та трьома іншими єпископами, і повів їх до Равенни, де, продовжуючи народ Істрії у своєму відступництві, вони потім були звільнені.
Пелагій II також мав суперечку з патріархом Візантії Іоанном, якому собор надав титул екуменічного єпископа. Після скасування актів цього собору понтифік заборонив будь-які стосунки вірних з візантійським патріархом, який також був позбавлений його гідності. Але Пелагій помер від заразної хвороби 8 лютого 590 р., перш ніж суперечка була повністю вирішена.
