מקורו של השם עילַי במקרא, בספר דברי הימים, שם נמנים גיבוריו של דוד המלך, כולם אנשים גיבורים, אנשי מלחמה וקרבות, שהובילו את דוד לנצחונותיו. בכך הם דאגו לקיומה של ההבטחה האלוהית לדוד שהוא יהיה מלך ישראל. עילַי האחוחי נמנה בין 30 הגיבורים הבכירים אשר לדוד, כדברי התנ"ך:

"וְאֵלֶּה רָאשֵׁי הַגִּבֹּרִים אֲשֶׁר לְדָוִיד… וְגִבּוֹרֵי הַחֲיָלִים: עֲשָׂהאֵל אֲחִי יוֹאָב, אֶלְחָנָן בֶּן-דּוֹדוֹ מִבֵּית לָחֶם, שַׁמּוֹת הַהֲרוֹרִי, חֶלֶץ הַפְּלוֹנִי, עִירָא בֶן-עִקֵּשׁ הַתְּקוֹעִי, אֲבִיעֶזֶר הָעַנְּתוֹתִי, סִבְּכַי הַחֻשָׁתִי, עִילַי הָאֲחוֹחִי" (דברי הימים א', י"א, 10, 26-29).

הכינוי 'אחוחי' מצביע ככל הנראה על אזור מגוריו של עילי גיבור דוד שהגיע ממקום בשם 'אחוח'. המילה 'עילַי' קשורה למלים 'על', 'מעלה', 'עליון', 'נעלה', 'מעולה' ו'התעלות'. אולי היא קשורה גם לשם בעל הצליל הדומה – 'עילאי'. עילאי, במשמעות של 'נעלה', 'נשגב', מקום גבוה ששואפים להגיע אליו.