Het gebouw aan de Kinderhuisvest bleek in 1855 oud en ongeschikt en er kon niet genoeg aandacht worden besteed aan de mensen van de eigen gemeente. Bovendien was er inmiddels in 1854 een nieuwe armenwet ingevoerd, die de voorkeur gaf aan particuliere armenzorg. Mede door het synodaal reglement van 1853, krachtens welk reglement de diaconie in het vervolg alleen de eigen armen zou bedelen, moest er wel een einde komen aan de combinatie met de stadsarmen. De diaconie zag in het vervolg af van overheidssubsidie. In een vergadering van diakenen op 26 juli 1855 werden op voorstel van J.C. van Bemmelen maatregelen getroffen ter verkrijging van een ander diaconiehuis. Hiertoe werd een commissie in het leven geroepen, die de situatie uitvoerig heeft bekeken en in de diakenenvergadering op 9 augustus 1855 met de volgende bewoordingen het college van diakenen probeerde te overtuigen van de noodzaak tot oprichting van een eigen diaconiehuis: "Het is zeker eene waarheid dat armoede op de wereld een jammerlijk lot is, doch hoe pijnlijker moet zij zijn voor menschen op hoogen leeftijd, hunne behoeften zijn in alles grooter, hunne bezorgdheid vervult hunne ziel, ellende doet hun klagen en morren, doch in het huis werkt alles mede om hun lot te verzachten om hen dankbaar te doen zijn aan hunnen God en bovendien om meer aan hunnen eeuwige belangen te doen denken, dan aan den dag van morgen. Broeders! zoude ook de roeping van diakenen niet zijn om dit te bevorderen?" Een ander punt van overweging was dat tot nu toe kinderen van bedeelden in het huis mochten blijven tot hun zesde jaar, daarna werden ze naar één van de kindergestichten in Veenhuizen gezonden.

Indien de diaconie een eigen huis zou stichten, d.w.z. onafhankelijk van de overheid, dan zou opzending vervallen. Toevallig stond in de Jansstraat een zeer geschikt huis te koop, laatst bewoond door de Heer J.G. Scholten, die er een kostschool in gehouden had. Voor de aankoop van het huis, de nodige verbouwingen en de aankoop van meubilair, was een bedrag van fl. 40.000,- nodig. Om het benodigde bij elkaar te krijgen, werd niet alleen een collecte voorgesteld, te houden bij de ingezetenen, maar zou ook, met toestemming van de kerkenraad, een renteloze geldlening uitgeschreven worden van fl. 40.000,-, verdeeld in 400 aandelen van elk fl. 100,-. Ieder jaar zouden dan tien aandelen worden uitgeloot.

Het huis werd gekocht, de kerkenraad keurde de inschrijving van de renteloze geldlening goed.

In 1856 werd het huis officieel in gebruik genomen. De in het oude huis overgebleven stadsarmen werden overgebracht naar het Buiten Gasthuis aan de Schotersingel. Er werd besloten om vijftig verpleegden op te nemen.

Het onderscheid tussen alimentanten en bestedelingen bleef bestaan. Alimentanten mochten uitgaan op zon- en feestdagen na kerktijd en op woensdag en zaterdag na het middagmaal. Ze moesten een half uur voor de aanvang van het avondeten thuis zijn. Bestedelingen waren geheel vrij in hun uitgaan.

Het ontbijt in het diaconiehuis was 's zomers om 7.00 uur ('s winters om 8.00 uur), de lunch werd zowel in de zomer als in de winter gebruikt om 12.30 uur en tenslotte het avondeten om 20.30 uur (behalve in de maanden juni en juli om 21.00 uur). Alle bewoners moesten 's zomers om 21.30 uur en 's winters om 21.00 uur naar bed.

De kleding van de in het huis wonende alimentanten en bestedelingen vertoonde alleen een verschil in kleur en niet in vorm of kwaliteit. De alimentanten kregen een witte bies aan de schoudernaad van de mouw om te voorkomen, dat ze herbergen bezochten of sterke drank zouden krijgen van inwoners. In 1914 werd die witte bies afgeschaft.

Ten gevolge van een toename van het aantal alimentanten en bestedelingen in het diaconiehuis in de tweede helft van de 19e eeuw, besloten diakenen om het diaconiehuis uit te breiden, door volbouwing van het open terrein naast het bestaande huis aan de Jansstraat. In augustus 1890 werd een begin gemaakt en in mei 1891 was de bouw van het nieuwe gedeelte van het huis voltooid. Op 28 mei 1891 werd het nieuwe diaconiehuis officieel geopend.

In 1928 kocht de diaconie het perceel Jansstraat 30 met de bedoeling om er een inrichting van te maken voor mensen op leeftijd, welke een vrije kamer of zit-slaapkamer zochten. Na een kleine verbouwing, die nodig was om het gestelde doel uit te voeren, kwam het in 1929 gereed.

Het pension, zoals het werd genoemd, stond niet los van het diaconiehuis, want de aanvragen voor het pension moesten worden gericht aan de binnenvader. Bovendien was het eten uit de keuken van het diaconiehuis afkomstig en konden bewoners, indien ze ziek werden, opgenomen worden in de ziekenafdeling van het diaconiehuis. De mensen die in het pension woonden waren hiervoor huur verschuldigd.

In 1923 werd de verbouwing en reorganisatie van de ziekenafdeling van het diaconiehuis ter hand genomen. Deze verbouwing werd in 1924 voltooid. Om aan de hoge kosten tegemoet te komen, moesten er meer bestedelingen opgenomen worden. De bestedelingen betaalden immers voor hun verblijf in het huis. De naam diaconiehuis was echter voor vele bestedelingen een bezwaar. Daarom werd besloten de ziekenafdeling het Rusthuis te noemen. Voor een plaats in het Rusthuis moest men weliswaar meer betalen, maar de meeste bestedelingen hadden dat er graag voor over. Het klonk immers veel deftiger dan diaconiehuis, want dat suggereerde alleen maar armoede. In deze periode werd het oude gedeelte van het diaconiehuis in de wandeling steeds vaker het voorhuis genoemd. Aan het Rusthuis (Korte Wijngaardstraat 3) waren acht verpleegsters verbonden, waaronder één hoofdverpleegster. Het medisch toezicht berustte bij een dokter. De verpleegsters werden "geleend" bij Bethesda Sarepta en het Diaconessenhuis. In 1931 werd bepaald, dat opname van chronische patiënten in het Rusthuis via bemiddeling van de Gemeentelijke Geneeskundige en Gezondheids Dienst zou lopen. De beslissing over al dan niet opname bleef echter berusten bij regenten. Het Rusthuis werd in 1934 wederom verbouwd. Toen werd besloten de naam te veranderen in het Adriana Koenen Rusthuis. Nu beschikte het huis over eigen verpleegsters.

In 1958 werd het Adriana Koenen Rusthuis gesloopt met uitzondering van het oude voorhuis. Mede naar aanleiding van felle discussies, die in de vijftiger jaren in landelijke bladen oplaaiden over misstanden in sommige bejaardenhuizen, had de diaconie besloten een nieuw verpleeghuis te bouwen. Hiermee was de nadruk op de gezondheidszorg gelegd, terwijl voordien de maatschappelijke zorg voorop stond.

De bouw van een geheel nieuw en modern verpleeghuis begon en in 1966 werd het Diaconaal Verpleeghuis Janskliniek aan de Ridderstraat 32 officieel geopend.