Родился Джеймс в небольшой деревушке в Шотландии. Он был сыном простого фермера, но его род был старинным и первые упоминания о нем были еще в XII веке. Отец Джеймса хотел сделать из сына священника. На это он бросал много сил и времени. Джеймс учился в Кингз-колледже, что в Абердине. Там он увлекся стихотворчеством. Колледж, он, увы, бросил быстро. Университет в Эдинбурге тоже. Когда он вернулся на родину, то с трудом смогу устроиться учителем в школу для бедных. Там он показал свои знания и таланты, что приятно удивило его отца. В 1759 году Джеймса пригласили работать домашним учителем в уважаемое семейство Греемов. Он обучал маленького Томаса, который в будущем станет видным военным деятелем Великобритании. Работая в доме Греемов, у Джеймса была возможность общаться со многими известными людьми Шотландии. Он советовался с ними насчет своих работ в области поэзии. Те его поддерживали.
Первая поэма Джеймса, называющаяся «Шотландский горец» не была хорошо принята, так как носила откровенно подражательный характер. В те времена в Шотландском обществе возникла проблема национальной дискриминации. Ведь Шотландия в 1707 году подписала договор об объединении с Великой Британии. Разумеется, что открыто бороться с Великобританией шотландцы не могли. В Эдинбурге, тогдашнем центре по возрождению национальной культуры Шотландии, собралась группка интеллектуалов, представителями которой были выдающиеся философы, политэкономы, риторики, эстетики. Джеймс Макферсон своевременно уловил сложившуюся конъюнктуру. Он решил, что если его не поддерживают как простого поэта, то он подберется к сердцам шотландцев через национальное прошлое.
В 1760 году он издал анонимно «Отрывки старинных стихотворений, собранных в горной Шотландии и переведенных с гэльского языка». В книге было 16 поэтических фрагментов, 11 из которых позже войдут в так называемые поэмы «Оссиана». Книга быстро нашла своего читателя. Тогда интерес к кельтской культуре был сильно высок, а поскольку кельты говорят на гэльском языке, то ничего удивительного в том, что книге Джеймса стала популярной – нет. Были собраны необходимые средства, и Макферсон опять едет собирать материал. В горной Шотландии он якобы находит героические поэмы «Фингал» в шести песнях (опубликовали в 1762 году) и «Темора» в восьми книгах (год публикации – 1763). Автором находок Макферсон объявил легендарного барда и воина кельтов – Оссиана. По преданию этот человек жил в III веке в Шотландии.
Успех был просто грандиозным. Шотландцы просто зачитывались этими произведениями. Однако некоторые люди усомнились в подлинности песен. На публикатора посыпалась масса критики и замечаний. Некий доктор из Великой Британии особенно усердствовал в критике работ Джеймса. В итоге его поэт вызвал на дуэль, но все обошлось. Поэт продолжал работать. Он объединил три предыдущих издания, а в 1765 году издал «Сочинения Оссиана, сына Фингала». Окончательное название, то есть «Поэмы Оссиана» работа получила в 1773 году. Спор насчет того, чьи эти произведения и кем они были написаны, не утихали даже в XX веке. Однако большинство ученых уверено, что Макферсон, используя кельтский фольклор, лично писал эти работы. Джеймс также пытался переводить «Илиаду», но потерпел неудачу. После этого он не создал ни единого достойного художественного произведения. В 1764-66 гг. Макферсон жил в Америке, позже заседал в Нижней палате британского парламента. В 1789 году он купил себе поместье в родном приходе, где и прожил мирно остаток своих дней. Пере смертью он попросил, чтобы его похоронили в Вестминстерском аббатстве, а в поместье ему установили памятник. Завещание было исполнено.