Іван Білоконський народився 6 червня (25 травня за старим стилем) 1855 року в Чернігові у збіднілій дворянській сім'ї. Його батько працював головним лікарем Новозибківської земської лікарні Чернігівської губернії (нині Брянська область РФ). Прізвище Білоконський походить від найстаршого представника родини – українського козака із села Черниш Чернігівської губернії на прізвисько Білий кінь.
Навчався Іван Білоконський у Новозибківському повітовому училищі, в останніх класах якого вчителем історії та географії працював Е. Чарторийський, що справив на учня неабияке враження. Під впливом учителя, як згадував сам Іван Петрович, він став "крайнім нігілістом". З такими переконаннями Іван Білоконський вступив до третього класу Чернігівської гімназії. Серед гімназистів особливою популярністю користувався вчитель літератури Микола Вербицький. Вони часто бували у нього вдома на Лісковиці. Постійне спілкування з Миколою Андрійовичем зіграло важливу роль у становленні майбутнього літератора та громадського діяча.
У цей же час Іван Білоконський зав'язує дружні стосунки з чернігівськими діячами громадсько-визвольного руху. Одним із перших таких знайомих гімназиста Білоконського був Ілля Шраг – відома своєю громадсько-політичною та правничою діяльністю особистість. Іван Білоконський брав участь у літературних вечорах, що здебільшого супроводжувалися бесідами про соціально-політичну ситуацію в країні. На той час до гімназії долинали чутки про "пропагандистів", які ходили в народ, щоб своїми роз'ясненнями показувати йому шлях досягнення свободи. Ця ідея стала вирішальною в долі Івана Петровича. Для здійснення своїх задумів він вступив до "комуни" Дмитра Лизогуба. Про знаний і багатий рід Лизогубів він чув іще з дитинства, бо, їдучи з Чернігова в Новозибків, обов'язково відвідував свою бабусю, яка жила в Седневі поряд з маєтком Лизогубів. У седнівській садибі і була влаштована так звана "комуна". Очолював її товариш Дмитра Лизогуба – Василь Штильке, який закликав до повалення самодержавства шляхом селянської революції. Для молодого Білоконського, якому на той час виповнилося 16 років, "комуна" стала школою народника-пропагандиста.
Першим своїм серйозним "виходом у народ" Іван Білоконський вважав хутір Робінзон Борзнянського повіту Чернігівської губернії, де жила на той час сім'я визначного українського діяча, одного з перших земських статистиків Олександра Русова. Там Олександр Олександрович під наглядом поліції займався землеробською працею, а його дружина Софія Федорівна виконувала роль кухарки й робітниці. Попри велике бажання юнака злитися з народом непристосованість до селянського життя привела його до висновку, що землеробство – це важкий фізичний труд, який не відповідає його фізичним можливостям.
У 1873 році Іван Білоконський переїхав у село Ольшаницю Васильківського повіту Київської губернії, де отримав посаду народного вчителя. Невдовзі був призначений учителем Городищенського початкового училища при цукровому заводі Яхненка і Симиренка. Там молодий учитель знайомиться з сином Платона Симиренка Левком, який був із ним не тільки одного віку, але й близьких політичних поглядів.
На цей час припадають і його перші спроби як публіциста. У 1875 році Іван Білоконський опублікував свою першу статтю "Боротьба за існування у сфері народної освіти" в "Київському телеграфі". Цього ж року з'явилося і його перше оповідання "Оля", надруковане за фінансової допомоги одного з господарів заводу – Яхненка. Після несподіваної кризи, яка спіткала господарів заводу, школу закрили і вчителям довелося покинути Городище.
Іван Білоконський переїхав до Києва, де почав слухати лекції в університеті, беручи активну участь у суспільно-політичному житті як серед студентів, так і поза стінами закладу.
На той час громадсько-політичні кола, до яких за своїми поглядами належав Іван Петрович, вирішували питання про необхідність об'єднання ліберальних і радикальних революційних груп. Але цей задум був перерваний студентськими виступами навесні 1878 року. Розпочалися арешти, суди і заслання на північ Росії та в Сибір. Перебування в Києві стало не тільки неможливим, але й небезпечним. Слідом за Левком Симиренком Іван Білоконський перебрався в Одесу і почав відвідувати заняття в Новоросійському університеті.
Складні політичні умови, неможливість публікуватися значно погіршили матеріальне становище молодого публіциста. У 1879 році, отримавши закордонний паспорт і дозвіл жандармерії, Іван Петрович виїхав до Європи за панськими дітьми. Саме там отримав звістку про те, що його розшукує поліція, і пораду не повертатися. Але любов до батьківщини, потяг до політичної діяльності не дозволили йому так вчинити.
Уночі з 17 на 18 серпня 1879 року у віці 24 роки після повернення з-за кордону, перебуваючи у Новозибкові Чернігівської губернії в батьківській оселі, Іван Білоконський був заарештований. Із Новозибківської в'язниці в супроводі жандармів його доправили в Чернігівську тюрму, де він провів понад вісім місяців. Потім Івана Білоконського перевели до Мценської пересильної тюрми, де несподівано для себе він зустрівся з Левком Симиренком. Тут дізнався про страту Дмитра Лизогуба в Одесі.
17 липня 1880 року, після двох місяців перебування у Мценській в'язниці, Івана Білоконського разом із Левком Симиренком відправили на заслання в Сибір. Серед політичних в'язнів була і майбутня дружина Івана Петровича Валерія Левандовська, а також письменник Володимир Короленко. З цього часу між письменниками зав'язалася тісна дружба, яка підтримувалась у формі листування упродовж сорока років.
У роки сибірського заслання Іван Білоконський писав нариси, оповідання, статті, які друкувалися в газетах "Сибирь", "Сибирская газета", "Восточный обзор" та ін. У вересні 1886 року Іван Петрович повернувся із заслання в Житомир, де вже рік жила його дружина.
Упродовж наступних 32 років діяльності на літературній ниві Іван Білоконський постійно співпрацював у газеті "Русские ведомости", журналах "Русское богатство", "Вестник Европы", "Образование", "Былое", "Голос минувшего", "Вестник воспитания", "Северный вестник", "Истина", "Народное хозяйство", "Южные записки", "Земский сборник Черниговской губернии" та ін.
У березні 1899 року Іван Петрович отримав запрошення від голови Харківської губернської земської управи М. Гордієнка на посаду секретаря і разом з тим – дозвіл начальника департаменту поліції на службу в земстві. Переїхавши в Харків, Іван Білоконський стає членом Харківського товариства розповсюдження в народі грамотності. У березні 1900 року у структурі Товариства розпочав роботу довідково-педагогічний комітет, першим головою якого було обрано Івана Білоконського.
На початку 1900-х років він зблизився з "Союзом освобождения" та вступив до партії конституційних демократів.
Втрата дружини у 1910 році позначилася на громадській і науково-літературній діяльності, а також на здоров'ї Івана Петровича, та, незважаючи на тяжкі часи, він продовжував, як і раніше, працювати.
Від початку перебування в Харкові й до 1917 року вийшли друком його найґрунтовніші праці, які стали важливим внеском в історію та розвиток земства, народної освіти і громадсько-політичного руху. Одним із основних напрямів діяльності Івана Білоконського стало вивчення історії земства та його наукове обґрунтування. У 1910 році вийшла друком книга "Земство и конституция", а в 1914-му – найголовніша його праця "Земское движение". Ця монографія була перекладена німецькою мовою. У 1922 році, після смерті Володимира Короленка, з яким товаришував і листувався протягом 41 року, Іван Петрович видав друком збірку "Письма В. Г. Короленко к И. П. Белоконскому".
Після революційних подій 1917 року Іван Білоконський відходить від активної громадської та літературної діяльності, зосередившись над спогадами, для підготовки яких він розпочав широке листування зі своїми знайомими по засланню та по земській і літературній діяльності. Результатом такої роботи став тритомник "Дань времени".
Помер Іван Білоконський 7 лютого 1931 року на 76-му році життя в Харкові, залишивши по собі ґрунтовні праці з історії та становлення народної освіти і земства.
Своєю активною громадською, літературною і публіцистичною діяльністю Іван Білоконський увійшов в історію як всебічно розвинута особистість, яка повсякденною працею дбала про щасливе майбутнє народу, його добробут, розвиток науки і культури, освіти й мистецтва.