后来，白居易到了长安，但总是漂泊不定。他时而居长安，时而居他处。他曾去过徐州、襄州、杭州等地，结交了许多诗人，与他们共同切磋诗艺，使自己的诗歌创作技巧又有很大长进。
白居易觉得自己的诗比以前好多了，只是语言还不够通俗易懂。为了使自己的诗歌更通俗，他每写完一首诗就先念给不识字的人听。一次，他把一篇刚写好的诗歌读给一位在树下乘凉的老妇人听。这个老妇人听完后琢磨了半晌也没弄懂。最后，她感到很厌倦了，就对白居易说：“我听了这么久，也没有搞明白你读的是什么，你还是找别人去吧。我是一个大字不识的老婆子，没有什么高明的见解。”老人看着白居易窘迫的样子，就开导他：“其实也没什么，只要你把它改一下就好多了。我不识字，懂得少，你自己看着好就行了。”白居易立刻感到羞愧难当。他想，自己写的诗别人看不懂，那有什么意义呢？他将这篇诗稿改了一遍又一遍，直到老人完全明白了，他才定稿。