Расспросив мальчика и поверив ему, что он сам сочиняет мелодии, босс в качестве дополнительной проверки поручил ему написать какую-нибудь песенку. Так появилась первая известная песня будущего композитора «Мэри из солнечной Италии», слова к которой также были придуманы автором. Хозяин заплатил ему «гонорар» — 37 центов (впрочем, в нынешнем исчислении эта сумма приближается к десяти долларам).

Никакого музыкального образования подросток не получил. Тем не менее он научился игре на фортепиано и других инструментах, самостоятельно овладел элементарной нотной грамотой. Он стал петь на улице, принял участие в самодеятельном хоре. Очевидцы вспоминали, что по окончании работы, глубокой ночью, юноша оставался в кафе, где работал, садился за рояль и по самоучителю овладевал инструментом, одновременно сочиняя свои незамысловатые мелодии.

В девятнадцатилетнем возрасте, в 1907 году, почувствовав, что у него проявляются профессиональные способности и решив посвятить себя музыке, молодой человек собрался выпустить на заработанные деньги сборник своих песен. Сохранив отцовскую фамилию, он обозначил свое имя по-новому — Ирвинг, чтобы оно звучало по-американски. Но наборщики случайно (или намеренно) исказили фамилию, напечатав Берлин вместо Бейлин. Автор решил ничего не менять, тем более что это стоило бы дополнительно немало денег.

Так появился на свет композитор Ирвинг Берлин, вошедший в историю американской музыки.

Песни Берлина стали исполняться ресторанными певцами и певицами, а затем и солистами более высокого ранга. Ему стали заказывать мелодии с текстами. Постепенно нищенские гонорары превращались в источник немалого дохода. Берлин становился профессионалом, пользовавшимся популярностью в самых различных кругах.

Ирвинг Берлин осознал, что массовую американскую аудиторию, как представителей высшего света, так и простых работяг, интересуют элементарные мелодии со столь же незамысловатыми текстами, которые легко запоминались и могли распеваться на улице, дружеских вечеринках и т. п. Видный американский журналист Уолтер Кронкайт явно преувеличивал, но был недалек от истины, когда в статье, посвященной столетию Берлина, писал, что он «помог написать историю нашей страны, охватив лучшее, что у нас есть, и мечты, в которых воплощаются наши стремления».

Примерно на рубеже первого и второго десятилетий ХХ века Берлину стали заказывать музыку для водевилей, спектаклей, бродвейских театров. Он постепенно превращался в известного, а затем знаменитого композитора. Росшая популярность позволяла Берлину экспериментировать в музыке. Он впервые попробовал соединить две различные мелодические темы в одной песне, это понравилось публике и еще более повысило популярность композитора.