מקור השם במקרא. משמעות השם היא 'הכרם שלי'. כרם היא שטח בו גדלים גפנים, זיתים או שקדים. הכרם היא סמל לשפע, וכן לשורשיות, אחיזה בקרקע וקירבה לארץ.

"שָׂמֻנִי נֹטֵרָה אֶת הַכְּרָמִים, כַּרְמִי שֶׁלִּי לֹא נָטָרְתִּי" (שיר השירים א' 6).

'כרמי' היה שם בנו של ראובן בן יעקב אבינו:

"וּבְנֵי רְאוּבֵן: חֲנוֹךְ וּפַלּוּא וְחֶצְרֹן וְכַרְמִי" (בראשית מ"ו 9).

'כרמי' היה גם שם אביו של עכן שמעל בחרם המלחמה עם יריחו לאחר הכניסה לארץ-ישראל

"וַיִּמְעֲלוּ בְנֵי יִשְׂרָאֵל מַעַל בַּחֵרֶם. וַיִּקַּח עָכָן בֶּן-כַּרְמִי… מִן הַחֵרֶם" (יהושע ז' 1).