我們通常講的“語言文字”這個詞彙其實是由兩個彼此聯絡而又不完全相同的概念共同構成的：所謂語言就是我們平時所說的話，文字則是一種用於書面記錄的工具。事實上語言的歷史遠比文字悠久：自300多萬年前人類誕生之日起只要不是聾啞人都會開口說話，然而文字的發明不過就是最近幾千年的事。事實上迄今為止世界上仍有相當一部分民族只有口頭語言而沒書面文字。
我國的56個民族幾乎都有本民族的語言，然而擁有文字的民族只有31個。美國的一些印第安部落、澳大利亞土著居民以及亞馬遜叢林和非洲的一些原始部落都沒自己的文字。目前全世界查明的語言一共有5651種，此外還有一部分不被視為獨立語言的方言。19世紀比較學派研究了世界上近一百種語言，結果發現有些語言的某些語音、詞彙、語法規則之間有對應關係，於是他們便把這些語言歸為同一語族。
有的語族與其他語族之間又有些對應關係，於是又歸在一起稱為同系語言。各種語言之間的譜系關係由此形成。這實際上是基於生物學概念假設若干語種是由特定祖語演化而來。人類語言之間的具體譜系關係是如何劃分的呢？首先按各種語言的親屬關係分為若干語系，每一語系之下又分為若干語族，每一語族之下分為若干語支，語支之下是語種，語種之下是方言。
這種劃分模式就類似於生物學中的界、門、綱、目、科、屬、種。目前全世界5651種語言主要屬於漢藏語系、印歐語系、阿爾泰語系、閃-含語系、烏拉爾語系、高加索語系、南島語系、南亞語系、達羅毗荼語系這九大語系。我國56個民族各自的語言分別屬於漢藏語系、阿爾泰語系、南島語系、南亞語系和印歐語系。作為我國官方語言的漢語屬於漢藏語系。
漢藏語系是以漢語和藏語為代表的一個有親屬關係的語言群，分為漢語族、藏緬語族、壯侗語族、苗瑤語族四個語族。我國的漢語、藏語、苗語、壯語、土家語、瑤語均屬於這一語系，我國南方的緬甸、泰國等中南半島國家的語言也多屬於漢藏語系。非洲與東南亞等很多地方的語言受到殖民歷史影響都是用拉丁字母拼寫。目前的波斯語、烏爾都語等諸多語言都採用阿拉伯字母進行拼寫。
可能有人會覺得日語也該和漢語一樣屬於漢藏語系，可實際上日語和漢語其實完全是兩種不同的語言體系。日本列島早期壓根兒就沒有自己的文字，因此日本也無法使用文字記錄自己的歷史。據《古語拾遺》等古籍記載：日本人原本是採取結繩記事。日本早期的漢倭奴國、邪馬臺國的歷史都是由中國史料所記載的。在那個年代中日之間的交流相當有限：只有當日本列島的國家前來朝貢時中國史料才會記上一筆。
平時日本使節不來朝貢時中國的史料中就不會記載，因此主要靠中國史料記載的日本早期歷史就處於一種混沌矇昧的狀態。直到中國漢字傳入日本以後這個島國的歷史才開始有了明確的文字記載。儘管日本與中國的官方交流最早可以追溯到東漢時期，然而當時的日本尚處於原始的氏族部落社會形態，直到兩晉南北朝時期日本列島才有原始的氏族部落社會逐漸過渡到較為成熟的國家政權文明。
隨著國家政權機器的日益完善導致日本對書面文字的需求日漸增長。中國漢字正是在這樣一種形勢下傳入日本的：漢字傳入日本最早可以追溯到晉武帝太康年間，然而漢字真正在日本普及開來大約是在中國隋唐時期。一開始日本人直接把從中國傳入漢字拿來使用，後來逐漸在漢字的基礎上發明創造了日文假名。中國唐代時期留學生吉備真備根據漢字楷書的偏旁部首發明瞭片假名。
後來日本人又根據漢字草書的偏旁部首發明瞭平假名。發展至今的現代日文書寫系統有一部分是日本人當初直接從中國引入的漢字，一部分是根據漢字偏旁創造的假名，此外日文中還引入了一部分羅馬字。在古代日本的文化階層普遍是認識漢字的。2001年日本NHK電視臺拍攝的大河劇《北條時宗》中日本執政者能毫無障礙地閱讀元世祖忽必烈命人傳達的漢字國書。
直到唐代日本遣唐使才在引入中國漢字的基礎上發明了日文，那麼難道在此之前日本人就不會說話嗎？毫無疑問在此之前日語早已存在，只不過沒形成文字記錄而已。很顯然日語從日本民族誕生之日起就已存在，否則那時的日本人是用什麼進行交流的呢？所以要弄清日語的起源就有必要回溯日本民族形成的歷史。目前史學界關於日本民族的起源問題存在諸多不同說法。
目前考古學界最主流的觀點一般傾向於認為：日本民族的祖先是由來自中國淮河下游及長江下游地區的漢族移民與來自西伯利亞及中國東北的通古斯人、南洋群島的馬來人、中南半島的印支人、古代朝鮮人等多個族群融合形成的。這其中有的族群甚至本身就是融合多個不同族群所形成的混血族群：當時遷徙到日本的古代朝鮮人本身就是朝鮮半島土著和中國殷商移民、東胡人等族群所融合形成的。
由此可見日本民族其實是一個高度混血的民族，而日語其實也是一種帶有各種語言與文化因素的高度混雜的語言。在進入日本列島的早期移民中有操阿爾泰語系語言的通古斯人，有操漢藏語系語言的中原人，有操南島語系語言的馬來人。這些族群的融合就使日語同時兼具多種語系特徵。在明治時代日本人一般把日語劃為阿爾泰語系，但這種說法已遭到國際語言學界的普遍否定。
日本學者西田龍雄認為日語屬於漢藏語系，大野晉則認為日語屬於達羅毗荼語系。2007年美國學者Leon Serafim提出“日本語系（Japonic languages）”（或稱“日本－琉球語系”）這一概念。Leon Serafim認為日本語系共有的原始語言是原始日本語（Proto-Japonic）。這一語系包括日語和琉球語兩大語言及它們的各種方言。此外也有關於日語屬於南島語系的說法。
迄今為止學術界始終沒對日語的語系歸屬達成統一認識。目前有相當一部分學者認為日語同時兼具阿爾泰語系、漢藏語系、南島語系等多個語系的語言特徵，所以單獨劃入任何一系似乎都欠妥。事實上日語和漢語並不像有些人想象的那麼接近。日語並不是由漢語演化而來的：日語和漢語是兩種不同的語言，在發生學上並沒傳承性。之所以有人會覺得日語是漢語的方言變種主要是因為日文是在借鑑漢字的基礎上發展起來的。
也許有人並不認同日語不是由漢語演化而來這一觀點，也許有人會以現代漢語和現代日語中出現的相同詞彙作為反例。然而這裡我們需要區分兩個不同的概念：傳承性和親緣性。儘管沒任何證據顯示日語是由漢語直接演化而來，但不可否認的是日語本身就是同時受到阿爾泰語系、漢藏語系、南島語系等多個語系影響的，所以在日語中出現一些與漢語相似的詞彙似乎並非完全無法理解。
日本古代曾長期以中國為師。在這一過程中日語也借鑑了不少的漢語詞彙，然而能就此認定日語是由漢語演化而來的嗎？如今漢語中的“沙發”、“吉普”、“因特網”、“粉絲”、“計程車”這些詞彙都是直接借用的外來詞，那麼難道漢語是由英語演化而來的嗎？到了近代中國又從日語中引入了法律、法人、幹部、電車、財團等詞彙。不過歷史上漢語和日語之間這種借鑑詞彙的現象並不能證明兩者之間有傳承關係。
早在漢字傳入以前日本人就有自己的語言。屬於漢藏語系的漢語在語序是是主謂賓，而且每個字都有獨立的意思。日語在語法和結構上與同屬於粘著語的阿爾泰語系較為相似：其語序為主賓謂，而且每個句子都需要用助詞來提示。日本遣唐使來中國所引入的是文字（而不是語言）：在此之前日本人早就有自己的語言了，而他們所缺乏的一種能用來記錄自己語言的書寫系統。
日本實際上是透過用漢字來拼寫標註日語這種方式解決了書寫系統的問題。事實上這種借鑑別國的書面文字體系用來記錄本國語言的例子並不少見：土耳其在1928年以前用阿拉伯字母拼寫土耳其語，在1928年以後改用拉丁字母拼寫土耳其語。伊朗的波斯語也是使用阿拉伯字母拼寫的。蒙古國在1937年以後開始採用蘇聯傳入的西裡爾字母拼寫蒙文以代替從成吉思汗時代流傳下來的回鶻式蒙古文。
波斯語在書面文字形式上借用了阿拉伯文，可這並沒改變波斯語和阿拉伯語是兩種不同語言的本質。蒙古國的文字借用了蘇聯傳入的西裡爾字母，然而我們能說蒙古語和俄語是同宗同源嗎？日本法隆寺的金堂藥師佛像背後有一段公元7世紀的銘文。儘管其中內容全是用漢字書寫的，然而卻充斥著大量的“藥師像作”、“造不堪”、“大命受”之類的漢式日文，而且整段銘文是按日語的語序書寫的。
古代日本一度頗為推崇漢字：當時日本貴族階層普遍熱衷於用漢字作詩，然而日本人作的漢詩還是按日語的語序所作。表面上漢式日文全都用漢字書寫，但語序結構與漢語截然不同，甚至按照漢語的思維根本就無法理解，這也是日文漢字很多字面意思與我們知道的不一樣的原因。比如中國漢字中的“娘”指的是媽媽，日文漢字中的“娘”指的是女兒、姑娘。
再比如“大丈夫”這個詞在中國漢字裡指的是男子漢，可在日文漢字裡這個詞的意思是沒關係。另外漢字傳入日本時中國人用的還是繁體字，可如今中國大陸已將繁體字簡化。日本人在使用漢字時也根據自己的習慣進行了一定的演化，然而日文漢字的演化並沒參照中國漢字簡化，因此如今日文中的漢字與當初日本遣唐使引入的原始漢字已出現了一定的差別。
儘管古代日本的貴族階層一度頗為推崇漢字，可漢字對他們而言終究是一種外來文字，而且日語與漢語是完全不同的兩種語言體系，因此日本人在用漢字書寫日語時常遇到各種困難。日語中存在大量的助詞與敬語，可這些在漢語中的沒有的，所以無法有效表達出來，這就很容易產生各種問題與誤會。日本人為了更好地標註日語就索性去掉漢字的意義，只是單純借用漢字來標註日語讀音。
日本人本來就有自己的語言，引入漢字只是為了標註傳承日語而已。因此就形成了日本人在使用漢字的同時不會使用漢語這種現象。這種現象其實並非只存在於日本：在朝鮮、越南等同樣受中國文化影響的漢字文化圈地區幾乎普遍存在這種會寫漢字而不會說漢語的現象。因此在當時的漢字文化圈形成了一種特殊的交流方式——筆談。所謂筆談是指漢字文化圈內不同地域使用不同語言的人透過書面文字進行交流。
明末遺民朱舜水在參與抗清復明運動失敗東渡日本，當時日本水戶藩第二代藩主德川光圀就常去拜訪他。由於二人語言不通，所以更多的時候是透過書面文字交流。日本江戶時代的儒學者也常和朝鮮通訊使用漢字筆談的方式來爭論儒學問題。在標誌著日本進入近代史的美國黑船來航事件中筆談又一次發揮了作用：由於在此之前日本已經歷兩百餘年的鎖國時期，因此在美日談判中幾乎找不到一個懂英語的日本人。
當時造訪日本的美國艦隊中也無人精通日語。恰巧當時隨美國艦隊前往日本的傳教士衛三畏是一個多年研究中國文化的漢學家。精通漢語漢字的衛三畏還邀請了自己在香港認識的中國人羅森一同前往日本。日本近代史上第一份國際條約的談判過程其實是這樣的：美方談判代表說英語，由衛三畏翻譯為漢語，再由羅森寫下來交給日本官員看，日本官員看了以後再讓羅森和衛三畏把自己的意見傳達給美方。
