Пока он занимался этой деятельностью, неожиданно пришла телеграмма о том, что его предприятие в Аллахабаде ограблено. Служащие разворовали его деньги и лекарства., забрав все, что имело хоть какую-нибудь ценность. Прочитав это известие, он не сказал ни слова, а потом рассмеялся и произнес стих из «Бхагаватам»: к искреннему преданном милость Кришны приходит в виде крушения всех его материальных надежд. Когда один из его друзей в Джханси посоветовал ему вернуться в Аллахабад, он ответил: "Нет, нет, все это мне на пользу. Сначала я был расстроен, но теперь вижу, что избавился от одной очень сильной привязанности; теперь я могу полностью предаться Шри Шри Радхе-Кришне и посвятить Им свою жизнь".
Поехав к семье в Калькутту, Абхай окончательно сложил с себя семейные обязательства. В Калькутте у него все еще оставалось небольшое дело, и он отправился туда, чтобы попытаться собрать деньги для своей миссионерской деятельности в Джханси. Но там он волей-неволей вынужден был вновь заняться семейными делами — у некоторых из его детей до сих пор не было своей семьи, нужно было платить за квартиру и оплачивать счета. Даже если он расширит свое дело в Калькутте, семья будет забирать все, что он заработает, и, даже если он уступит требованиям семьи жить дома главная проблема так и останется нерешенной — они не хотят серьезно заниматься преданным служением.
Какой во всем этом смысл, думал он, если они не станут преданными? Его жену и родственников не интересовала проповедническая деятельность Абхая в Джханси, они хотели, чтобы он больше времени уделял бизнесу и семейным делам. Его тесть ворчал: «Почему ты все время говоришь о Боге?» Но, несмотря ни на что, Абхай продолжал собирать у себя дома друзей, чтобы проповедовать им и рассказывать о «Бхагавад-гите», как делал это в Джханси. И, как прежде, жена и другие члены его семьи в это время пили чай в соседней комнате. Позже Прабхупада вспоминал: «Я делал все возможное, чтобы привлечь ее к проповеднической деятельности, чтобы она помогала мне распространять сознание Кришны. Но жена была непреклонна. В конце концов через тридцать лет я понял, что она мне не помощница».
Абхай все время просил жену перестать пить чай — это было не принято в ортодоксальных вайшнавских семьях. Наконец он поставил ей условие: «Ты должна выбрать между мной и чаем». Жена Абхая шутливо ответила: «Ну что ж, тогда придется отказаться от мужа».
Некоторое время спустя она совершила непростительную ошибку, обменяв его экземпляр «Шримад-Бхагаватам» на печенье к чаю. Когда Абхай вернулся домой и стал искать священную книгу, жена призналась ему в этом. Абхай был потрясен. Это событие стало последней каплей, переполнившей чашу его терпения. Настроенный как никогда решительно, он окончательно порвал отношения со своей семьей и оставил занятия бизнесом.
Пятидесятые годы были для Абхая очень трудным временем. Он вернулся в Джханси, но ему пришлось расстаться со своим зданием, поскольку жена губернатора настаивала, чтобы там вместо Лиги преданных расположился женский клуб. Лишенный крова над головой и настоящей поддержки, он расстался с Джханси, но не со своими планами создать всемирную ассоциацию преданных. Переехав в Дели, Абхай некоторое время жил в ашраме Гаудия-матха со своими духовными братьями. Но потом он снова стал жить сам по себе, подобно странствующему садху, останавливаясь на неделю-другую в разных храмах или в домах состоятельных и благочестивых людей, готовых оказать ему гостеприимство. В отношении пищи, одежды и крова это было самое трудное время в его жизни. С детских лет он привык к хорошей еде и одежде и никогда не знал проблем с жильем. Он был любимым ребенком своих родителей и пользовался особым расположением Шрилы Бхактисиддханты Сарасвати. Но в пятидесятые годы Абхай оказался в полном одиночестве.
Он делил свое время между литературной деятельностью и поисками богатых покровителей, которым проповедовал «Бхагавад-гиту». Он делал это не ради того, чтобы найти себе постоянное место жительства, его целью было издание трансцендентной литературы и создание мощного движения, которое будет распространять сознание Кришны. А для этого ему нужны были деньги. И он обращался к богатым людям, заходил в их конторы или дома, знакомил их со своими рукописями и рассказывал о своей миссии. Но откликались немногие, а те, кто откликался, как правило, давали не больше пяти-десяти рупий. В итоге ему все же кое-как удалось собрать достаточную сумму и возобновить издание «Бэк ту Годхед».
Не имея денег даже на приличную одежду, Абхай ходил по холодному зимнему Дели без пальто. Он регулярно заходил в типографию и вычитывал гранки «Бэк ту Годхед». Когда владелец типографии спросил его, почему он так упорно, несмотря на огромные трудности, продолжает выпускать свой журнал, Абхай ответил: «Это моя миссия». Ему приходилось платить владельцу типографии по частям, небольшими суммами.
Забрав тираж из типографии, Абхай ходил по городу и сам продавал его. Обычно он располагался в чайной, и когда кто-нибудь садился рядом, Абхай предлагал ему купить очередной номер «Бэк ту Годхед». В своих очерках и передовицах Абхай критиковал материалистические и атеистические тенденции современного общества. Часто он приводил примеры из собственной жизни. На отказы (вежливые или грубые), которые Абхай встречал, продавая «Бэк ту Годхед», он отозвался статьей: «Отсутствие времени — хроническая болезнь современного человека». Несмотря на отчаянную бедность и понимание безотлагательности своей миссии, он никогда не позволял себе быть навязчивым, резким или фанатичным в статьях, которые печатал в «Бэк ту Годхед». Он писал в расчете на читателя, готового услышать настоящую философию и признать истину, особенно если она представлена логично, доходчиво и авторитетно.