据《史记》的《大宛列传》和《西南夷列传》记载，张骞于汉武帝建元六年(公元前135年)奉命出使西域，历时13年，于汉武帝元狩元年(公元前122年)回国。他在大夏国(今伊朗、阿富汗一带)看到了中国四川出产的蜀布和邛〔qiong穷〕竹杖，便命人询问当地人，这些东西是从哪里来的。当地人说：“这是从身毒国(今南亚次大陆)来的，身毒国在东南数千里，有蜀人在那里卖东西，这些蜀布和邛竹杖就是从他们那里买来的。”当时，汉朝人把印度翻译为身毒。其实，在张骞通西域之前，人们就听说过，在四川西南大约二千里，有个身毒国。张骞是个爱动脑筋的人，他在大夏看到了中国的物产，回国后便向汉武帝作了详细汇报。他说，大夏国在汉的西南，那里的人民很仰慕中国，只是由于中间有匈奴人的阻挡，才不能和中国通好；但通过身毒国这条道路，大夏是可以与蜀地相通的，对中国来说，有了这条便捷的道路，是有利而无害的事情。汉武帝一听，觉得很有道理，于是命令张骞派秘密使者到大西南去寻求通往印度的道路。张骞派出了一批秘密使者，分四条路线出发。但是，这些秘密使者走到云南一带就被当地的少数民族阻拦了，有的使者甚至被杀，终于没能到达印度。后来，朝廷又连续派出十多批使者到西南，但都没有达到目的。

西汉时期，自从张骞通西域以后，中国与印度西北部地区便有了一定的往来，由于匈奴人时常从中阻拦，所以在这条道路上的交往是时断时续的。这条路被学者们称为“西域道”。

西域道的开通，虽说在张骞通西域以后，但是并不排除在西汉以前即有此道存在。张骞两次出使西域，所走的路即西域道。当时，匈奴为汉朝的西北大患，占据西域要冲，自武帝以降，经昭、宣、元、成等几代皇帝采取征伐、和亲、置郡、屯田等种种手段，基本上控制了西域道，使之成为今天所说的“丝绸之路”。汉代的西域道分南北两条。《史记·大宛列传》中说：“初，贰师(武帝时将军李广利号)起敦煌西，道上国不能食，乃分为数军，从南北道。”《汉书》的《西域传》和《陈汤传》中也提到了南北道。一般认为，从敦煌向西，出玉门关、阳关到鄯善，由鄯善沿塔里木盆地的北缘经焉耆、龟兹等地越过葱岭的路线为北道，而由鄯善沿塔里木盆地的南缘经于阗、莎车等地越过葱岭的路线为南道。

由于西域道的开通，汉朝派往南亚的使节日益增多。《史记·大宛列传》记载，张骞二次出使西域时，曾在乌孙派副使到身毒。“自博望侯骞死后……而汉始筑令居以西，初置酒泉郡以通西北国。因益发使抵安息(今伊朗)、奄蔡(今乌拉尔、伏尔加河流域)、黎轩(今意大利一带)、条枝(今地中海安提阿克〔Antioch〕)、身毒国。而天子好宛马，使者相望于道。诸使外国一辈大者数百，少者百余人，人所赍〔ji 机〕操大放博望侯时。其后益习而衰少焉。汉率一岁中使多者十余，少者五六辈，远者八九岁，近者数岁而反。”这样庞大的使团，这样频繁的出使，汉人对印度的了解自然会日益增多。《汉书·西域传》记载了当时印度一些地区的情况，如当地的地理、物产、民俗及与汉朝的关系等。

东汉时，班超在西域经营达30年之久(公元73—102年)，对维持西域道的交通起到积极作用。这一时期，中国人对印度的了解比西汉时更进一步，其间的文化交流也较以前为频繁。

另外，蜀布和邛竹杖的故事还告诉我们，我国西南还有一条通往印度的道路，尽管汉武帝时没有打通，但它早已是客观存在，民间的贸易活动早已进行。这与印度人称中国为秦恰好相互印证。汉武帝虽然没有打通此道，但民间的交往可以继续进行。因为当地人虽阻杀官方使节，却不一定拦截商人，商人可以为当地人带来利益。这条道路被学者们称为“滇缅道”。东汉时，这条道路仍然承担着促进中国与印度文化交流的使命。

除了西域道和滇缅道以外，西汉与印度的交通还有一条海上通道，被学者们称为“南海道”。

《汉书·地理志》有这样一段文字：“自日南障塞、徐闻、合浦船行可五月，有都元国；又船行可四月，有邑卢没国；又船行可二十余日，有谌离国；步行可十余日，有夫甘都卢国。自夫甘都卢国船行可二月余，有黄支国，民俗与珠崖相类。其州广大，户口多，多异物，自武帝以来皆献见。有译长，属黄门，与应募者俱入海市明珠、璧流离、奇石异物，赍黄金杂缯而往。所至国皆禀食为耦，蛮夷贾船，转送致之。亦利交易，剽杀人。又苦逢风波溺死，不者数年来还。大珠至围二寸以下。平帝元始中，王莽辅政，欲耀威德，厚遗黄支王，令遣使献生犀牛。自黄支船行可八月，到皮宗；船行可二月，到日南、象林界云。黄支之南，有已程不国，汉之译使自此还矣。”能为多数中外学者所接受的看法是，文中的黄支即今南印度泰米尔纳杜邦马德拉斯附近的康契普拉姆一带。而已程不国，则有学者以为是斯里兰卡。仅从这段文字看，如果没有多次航海的经验，便不可能得出这样一条清晰航线和这样一份确切的时间表。这说明，西汉时期中国与印度的海上通道已经确立，它的起点在广东，终点在黄支国或已程不国。汉朝使者到黄支国去，黄支国也有使者、商人到汉地来。当时的汉朝译使没有专船，要由外国的商船转送，沿途风险很大，但船主却有利可图。即使一路顺利，来回的路上也至少要近两年的时间。

东汉时，南海道上的中印文化交流仍然不断。《后汉书·西域传》记天竺国(印度的另一个译名)说：“和帝时，数遣使贡献，后西域反畔，乃绝。至桓帝延熹二年、四年，频从日南徼外来献。”在陆路不通的情况下充分利用水路，足见交往心情的迫切。