Thụ phong linh mục ngày 10 tháng 10 năm 1875, cha Allys lên đường ngày 16 tháng 12 năm đó đến Miền Truyền Giáo Bắc Đàng Trong.

Ở xa cũng như ở gần, ngài cảm thấy hết lòng gắn bó với Miền Truyền Giáo đã được ngài lãnh đạo rất tốt đẹp.

Đại chủng viện mang ơn Đức Cha Caspar về sự tồn tại và thiết lập bền vững tại Phú Xuân.

Tùng phục hoàn toàn sự Quan Phòng của Chúa là một đặc điểm trong diện mạo tinh thần của Đức Cha Caspar.

Đức Cha Pontvianne đi kinh lý giáo phận nhưng phải bỏ dở vì ngã bệnh nặng. Ngài qua Hồng Kông vào mùa xuân 1879, vào điều trị tại dưỡng đường Bêtania. 

Ngài nâng dậy được những đổ nát do cuộc bách hại gây nên, mặc dầu sự thù hằn của các quan chức, và ngài đã giúp ích cho đất nước mình mà vẫn giữ được mối giao hảo với vua Tự Đức.

Trong năm 1869, Đức Cha Sohier đã viếng thăm mục vụ cả Miền Truyền Giáo, có ít nữa 2 vị thừa sai trợ giúp, cùng với các linh mục bản xứ và các thầy giáo sĩ.

Đây là người yêu mến anh em, là đấng không ngừng cầu bàu cùng Chúa cho chúng ta

Hãy tin tưởng phó thác cho Chúa và Đức Mẹ. Chúng ta sẽ không bị cám dỗ vượt quá sức mình.

Vào đầu tháng 3 năm 1849, Đức Cha suýt bị bắt ở Dương Sơn.