它的來源出自於希臘文的“魚”字“ICHTHUS”，它的每一個字母剛好是以下這一串字的縮寫：Iesous （Jesus）, CHristos （Christ）, THeou （of God）, Uiou （the Son）, Soter （the Savior）。英文直譯即為：“Jesus Christ, of God, the Son, the Savior”；中文意思是「救主耶穌基督，神的兒子」。因此當時的基督徒便暗地裡把基督的信仰與象徵用「字謎」的方式，並加以「轉注」成一個簡單的符號。
因為在第一世紀基督徒一直受到羅馬帝國的逼害，為保護會眾，這個魚的記號便成為基督徒之間的一個祕密暗號，他們用此記號來暗示聚會的地點或是基督徒的家。這個魚的記號也出現在很多基督徒的墓碑上，在當時的社會，基督徒身份的保密可是攸關生死甚至影響整個教會的存亡；當時的人們若在路上遇見一陌生人，基督徒會在地上畫出半邊的彎月弧線，如果對方畫出另外一半使之變成一條魚形，那麼這些信徒就可以互相信賴並放膽講道。
這條魚之所以能流傳至今，不僅因為歷史背景的原因，更因為魚在聖經的典故中佔了很重要的份量，耶穌在馬可福音（1: 17）對門徒說：「來跟從我，我要叫你們得人如得魚一樣」（I will make you fishers of men）。
拉丁文稱「跟隨基督的人」為“Pisciculi”，此字的根源即為“fish”（魚）。耶穌曾用５餅２魚餵飽了五千人（馬太福音14:17），魚不僅常出現在耶穌的愛筵聚會中，祂也用魚來做了很多的預表與啟示。在約翰福音中（21:6），耶穌讓彼得網到了153條大魚，「魚雖多，網卻沒有破」。
約拿因不願順服神的旨意，以致被丟入大海，「耶和華安排一條大魚吞了約拿，他在魚腹中三日三夜」（約拿書1:17）。西門彼得也曾得著同樣福杯滿溢的恩典，只因他憑信心遵從耶穌的話下網，「魚裝滿了兩隻船，甚至船要沈下去」，然後西門彼得立刻謙卑認罪，並「撇下所有的，跟從了耶穌」（路加福音5:6-11）。
