回到中国后，他开办了自己的网站中国黄页。他选择的服务对象是企业，他觉得，互联网的便捷性会让它成为企业最好的展示平台。他在自己玫瑰园小区的家里摆了服务器，他不懂与网络技术相关的东西，因此招聘了十几个工作人员。当时公司每个月的利润是700元，费用是200元，马云又一次沦落到了要砸锅卖铁的地步。

　　1997年，是中国互联网大热的一年。马云则受到邀请，到北方去做了外经贸部官方站点、网上中国商品交易市场等一系列国家级站点。当时不少人要他也去做站。

　　马云说：门户现在是有样可模仿，有迹可循，所以大家比拼相当激烈，而我做B2B（英文Business-to-Business的缩写，指企业间的电子商务）是无迹可循，是无招胜有招啊！阿里巴巴时代的马云，是激情而霸气的。阿里巴巴这个名字出自于他，意思是，就算面对四十大盗，最后胜利得到宝藏的还是我。

　　到现在为止，马云都觉得激情是最重要的东西。他害怕自己有一天会被琐碎的事情磨灭了创业的激情，干脆把自己儿时的梦想照进了现实。在他的公司里，有丐帮，有少林，有武当，有黑木崖，这些一个个有着江湖气息的名称让他把自己的工作当成了一段江湖经历。在保证了自己激情的同时，马云给所有员工的环境也都是一个江湖的环境。阿里巴巴当时给其团队带来的就是愉悦的心情和奋斗的动力。

　　不过，互联网很快迎来了一个低潮期，所有媒体都在报道互联网是个大泡沫。江湖上一时间开始风雨飘摇，员工们或多或少对自己所做的事情失去了信心。这时只见马云端上一杯啤酒，坐在会议室里对大家说：最好喝的啤酒，就是要带着泡沫去喝！好喝的啤酒果然被能坚持的马云尝到，他的阿里巴巴逐渐得到了全球商业机构的认可，一大批名牌企业在他那里做广告，做主页。在国内，许多原材料企业甚至把阿里巴巴当成了自己的又一个供货窗口。