Мечи и другое металлическое оружие пришли в Японию с азиатского материка вместе с металлургией еще в доисторический период. Хроника династии Вэй (Вэйчжи) отмечает, что посол, отправленный в Китай королевой Хи-мико (также читается Пимико) страны Ва (Япония), получил в 239 г. н. э. от императора Вэй мечи в качестве дани. Образцы мечей в китайском стиле, отличавшиеся одной режущей кромкой и треугольным профилем, были обнаружены под многочисленными могильными насыпями, сооруженными в период Древних Курганов (Кофун) (прибл. 300—600 н. э.), получивший свое название благодаря распространению в это время подобных погребений. Кроме того, прямые мечи были среди многих предметов, пожертвованных в храм Сёсоин около 756 г. н. э. казначейством императора Сёму.
Японский изогнутый меч появился приблизительно в VIII столетии одновременно с началом производства стали в Японии и появлением первых профессиональных военных. С самого начала лезвия японских мечей делали из стали с тщательно выдержанным содержанием углерода, а не из железа или, как в случае первых обнаруженных в Японии образцов, из бронзы, использовавшейся для производства мечей на азиатском континенте приблизительно с первых столетий н. э.
Мечи, изготовлявшиеся в Средние века и в начале Нового времени, заслуживают внимания по нескольким причинам. Лезвия, производившиеся в период Хэйан и приблизительно до 1600 г. в период Момояма, носят название кото («старые мечи») и, по мнению знатоков, превосходят оружие периода Эдо. До периода Муромати большинство японских мечей, известных под названием тати, напоминали более ранний вид мечей, первоначально доступный только знати периода Хэйан. Эти мечи в первую очередь выполняли церемониальные функции и были длиннее более поздних мечей. Кроме того, лезвия тати имели особенно выраженную кривизну. Тати отличаются от более поздних форм мечей, таких как катана (см. ниже и в «Типы мечей»), тем, что их носили на закрепленной на талии цепочке. Знати и другим придворным слугам не разрешалось носить традиционный тати, и вместо этого они носили прямые мечи, значительно более короткие и менее изогнутые, подробнее можно узнать на сайте http://samuithailand.net/, который предоставил эту информацию для написания данной статьи.
С начала эпохи Камакура и по XV столетие производство мечей заметно увеличилось и были достигнуты большие успехи как в их художественном оформлении, так и в технологии. Самые ценные клинки, которые японское Агентство по делам культуры (Бункатё) относит к числу национальных сокровищ (кокухо), датируются в основном периодом Камакура. В этих мечах находит отражение тот сплав технического и художественного совершенства, который характерен для самых изысканных предметов, изготовленных для японских воинов. Некоторые мечи, произведенные до периода Муромати, были созданы в ответ на изменения в оборонительных технологиях и являются примером пренебрежения функциональными характеристиками ради потребностей эксперимента. Например, длина мечей, изготовлявшихся в конце периода Камакура, иногда превышали три фута; эти клинки использовались исключительно конными воинами, скорее всего без особого эффекта. Впоследствии такое оружие укоротили, что сделало его более практичным в рукопашном бою.